Exascale文件系统：Lustre的前世今生

ggads

                百度权重查询 站长交易 友情链接交换 网站监控 服务器监控 SEO监控  
                去年底的“HPC TOP500只是竞赛 异构计算志在数据中心”一文中，我们谈到了Xeon Phi（至强融核）协处理器在Exascale（百亿亿次）计算上的应用。本文要讨论的则是支持Exascale的文件系统。
在写了四篇SSD（链接为最后发布的那个）、一篇存储服务器/JBOD和一篇Xeon E5相关的IDF2013报道之后，我想尝试下自己相对不太熟悉的软件领域——可以说专门针对高性能计算的Lustre文件系统。排名前100位HPC项目中超过40%项目采用Lustre。由于这也是我学习的一个过程，所以如有错误之处还望读者朋友不吝指出。

根据上面的资料，Lustre项目从1999年起始，2003年成立CFS公司并发布1.0版本。2007年开始属于Sun，并于2009年发布版本1.8。2010年，随着Sun被Oracle收购而加入甲骨文，发布了2.0版本。同一年，Lustre团队应该是从Oracle独立出来，并成立了Whamcloud公司，建立OpenSFS和EOFS两个开源社区。去年，Whamcloud被Intel收购，之后发布了2.3版。
我在本次大会的预热中曾经提到，收购Whamcloud获得Lustre文件系统，只是Intel HPC布局的一部分。去年他们还先后收购了QLogic的InfiniBand业务和CRAY的一部分HPC互连技术，并推出Xeon Phi协处理器来与NVIDIA等厂商的GPGPU竞争。

收购Whamcloud之后，Intel成立了高性能数据部（HPDD）并保留了100%的工程师，继续提供Lustre的最主要研发工作。同时继续保持开放性，并持续稳定的发展。

Intel支持Lustre作为一个开源文件系统继续发展，与多供应商和世界范围内的开源社区继续合作。他们认为存储系统是所有HPC软件发展的基石，而且Lustre是全球HPC领域中扩展性最好的文件系统。

针对高性能计算应用的特点，Lustre文件系统I/O聚合带宽最高可达700GB/s，支持大量用户并发访问，全局命名空间便于共享。任何可以运行LinuxOS并具有块设备的服务器，都可以安装运行Lustre。
当然Lustre也有不擅长的地方，作为一种元数据路径与数据路径分离的文件系统，它不适合用于小数据块I/O（比如OLTP交易型应用）场合。

由于协议和接口的标准化，Lustre的服务器和存储可以来自不同厂商，用户可以通过增加数据服务器逐步动态的扩充文件系统以提升聚合带宽和整体容量。
尽管Lustre是基于GPL的开源文件系统，但Intel可以销售专业的技术支持服务来获利。与Hadoop、OpenStack等开源产品一样，Lustre对使用者或者集成商调试、优化要求的门槛也比较高，技术水平不够的话可是容易给自己挖坑的。

在Lustre生态环境中，存储厂商包括DDN、戴尔、EMC、富士通、HDS、LSI、NetApp、Xyratex等，IBM和惠普不在其中是因为他们分别有类似用途的GPFS和IBRIX文件系统；“运算”一栏就是HPC制造商了，其中CRAY、SGI和BULL等我们也不陌生了；集成商当中也包括红帽（RedHat）；最右边的“研发”其实指的是用户/计算服务提供商，其中有笔者熟悉的TACC（德州高级计算中心）和NASA（美国宇航局）。