容灾-异地容灾备份-容灾一体机-数据安全备份-数据库双活网关 ... · Web view3.并发高性能6 3.1读写优化算法6 3.2性能叠加和负载平衡6 3.3SSD加速6

深圳市数存科技有限公司

数存SHARK5100分布式文件存储白皮书

地址：深圳市龙岗区雪岗北路天安云谷 3栋 C座 13楼 1303 电话：0755-28168486


深圳市数存科技有限公司All right reserved by Datapp Technology CO., Ltd

目录1. 系统简介...................................................................................................................3

2. 基础架构...................................................................................................................3

2.1 全对称架构........................................................................................................3

2.2 横向扩展...........................................................................................................4

2.3 海量容量...........................................................................................................5

2.4 统一命名空间....................................................................................................5

2.5 软件定义存储....................................................................................................5

3. 并发高性能...............................................................................................................6

3.1 读写优化算法....................................................................................................6

3.2 性能叠加和负载平衡........................................................................................6


深圳市数存科技有限公司3.3 SSD加速............................................................................................................6

3.4 客户端加速引擎................................................................................................7

4. 业务连续性...............................................................................................................8

4.1 数据冗余模式....................................................................................................8

4.2 高可用性...........................................................................................................9

4.3 无副本设置下的业务连续性............................................................................9

4.4 异地容灾技术..................................................................................................10

5. 企业业务兼容性.....................................................................................................10

5.1 全接口.............................................................................................................10

5.2 多平台支持......................................................................................................11

5.3 权限设置和数据隐私......................................................................................11

6. 易部署和易维护.....................................................................................................11

6.1 易部署.............................................................................................................11

6.2 易维护.............................................................................................................12

7. 企业应用场景优化.................................................................................................12



1. 系统简介当前，随着大数据时代的到来和 IT技术的飞速发展，各种非结构化数据（如图片、视

频、音频等）呈几何数级增长，传统的单机存储（NAS或者 SAN）在各企业内部已经无法满足其容量和性能的需求。如果采用公有云存储系统，存在着带宽低、应用不灵活等缺点无法满足企业个性化需求，同时安全性和隐私性方面存在着诸多隐患。采用现有的一些集群存储产品，企业用户也会面临成本高、扩展不便、并发性能较差等现实问题。为有效解决企业大规模非结构化数据的保存和管理问题，数存科技推出了分布式存储

软件 SHARK5100。该产品基于软件定义存储技术，具有领先的架构优势，不仅仅能够给用户提供统一的数据访问路径，还具有超大容量、性能横向扩展、多节点容错、高性能、易部署、易管理等诸多特点，能全面满足用户复杂的业务需要。相对于常见的分布式存储，SHARK5100针对非结构化数据（尤其是图片和视频等图

像数据）做了大量的优化，具有读写缓存优化、Windows客户端加速引擎、业务连续性保障（尤其是无副本设置下的业务连续性）等业界领先的技术，能提供更好的并发读写性能更加完善的数据管理功能、更加稳固的数据保障方案。

SHARK5100广泛适用于大量采用非结构化数据的行业，尤其是广电、渲染、安防、医疗 PACS等大量使用图像数据的行业，在增强性能、增强功能的同时具有更高的性价比，提升生产效率，进一步带来更大的业务价值。

2. 基础架构2.1 全对称架构下图详细描述了 SHARK5100集群的构成。客户端通过标准的 CIFS/NFS/FTP等协议，

访问 SHARK5100的存储空间。整个系统中不仅存储节点会通过副本或者纠删码等方式设地址：深圳市龙岗区雪岗北路天安云谷 3栋 C座 13楼 1303 电话：0755-28168486

深圳市数存科技有限公司置冗余，同时支持交换机的冗余配置，系统中任意一个硬件部件（包括网口或者交换机）损坏，系统仍可以正常运转，最大程度上保证了数据的高可用性。

SHARK5100拓扑示意图不同于市面上的一些分布式存储，SHARK5100无metadata（元数据）服务器，所有的

节点都是对等的节点，兼顾数据存储和管理功能，完全避免了元数据服务器带来的单点瓶颈和单点故障。进行扩展时，只需要加入数据节点即可，无需考虑元数据服务器的规划，这种结构上的简单性带来了管理的方便性。每个节点除了用作数据存储之外，也同样作为管理节点使用。用户可以通过任意一个

节点的 IP，利用Web或者专用客户端管理整个分布式存储系统。无需专门的管理服务器，节省用户的整体投资，简化网络部署。

2.2 横向扩展传统存储如果要扩展容量，一般采用纵向扩展（Scale-up）的方式。如下图左图所示，

通过添加扩展柜（JBOD）的方式，来扩展存储的总容量。但纵向扩展性能无法随容量同步扩展，因为所有的 IO都会经过主柜（连接外部网络的设备），且对外的网络接口不易扩展，所以非常容易导致性能瓶颈。而且可靠性很差，无法承受单点故障，最严重的情况如主柜损坏，则会导致所有的硬盘无法访问。因此，采用纵向扩展方式，不能支持较大的存储总容量。

SHARK5100采用了横向扩展（Scale-out）的方式来支持容量扩展，如下图右图所示。地址：深圳市龙岗区雪岗北路天安云谷 3栋 C座 13楼 1303 电话：0755-28168486

深圳市数存科技有限公司扩展容量只需要增加存储节点，该节点是一个完整的存储主机，直接接入网络，与其他节点之间有很大的独立性。任何节点损坏，不影响其他节点的访问。而且整个扩容过程在线进行，原有的存储系统可以继续运行，不会中断当前业务。

纵向扩展横向扩展纵向和横向扩展示意图

2.3 海量容量SHARK5100可以轻松支持 PB级别的存储数据总量。SHARK5100支持多达 512个存

储节点，支持的集群总存储容量超过 100PB，足以满足大中小各种类型企业的分布式存储业务需求。

2.4 统一命名空间SHARK5100能对用户提供统一的命名空间，意即用户能够访问一个容量接近无限

（数 PB）的数据卷。对于应用程序来说，只需要挂载（mount）该卷，按照本地文件系统的读写模式读写该卷即可。从逻辑上，用户可以认为自己使用的是一套超大容量和超高性能的专业存储，而无需考虑物理上的部署细节，比如，数据到底存放在哪个节点的哪个硬盘上。SHARK5100的运行机制确保了数据的合理存放以及整套系统的可用性，让用户能够随时随地读写所需的数据。当系统扩展时，卷的大小也可以同步扩展。新加入节点的存储空间，能够并并入到已

有的卷中。整个过程是动态在线完成的，不影响用户业务的正常运行。除此之外，用户也可根据自身业务的特点，创建多个独立的数据卷，配置不同的访问


深圳市数存科技有限公司权限，确保数据按照要求互相隔离。

2.5 软件定义存储SHARK5100基于软件定义存储的架构，可以运行在通用的 x86服务器上面，通过复杂

的软件机制来保证整套系统的可靠性。相对于专用硬件服务器来说，不仅可以降低用户的整体投资，同时还带来了极大的灵活性。用户可根据预算选择合适档次的硬件，既可以直接利用现有的服务器设备，也可以采用经过大规模测试和认证的专用硬件系统（包括具有更高可用性的双控制器存储设备）组建。迄今为止，SHARK5100已经在多款商用服务器上面经过了完善的测试和生产环境的考验。

3. 并发高性能SHARK5100针对非结构化数据的特点，进行了多个环节的深度优化，在并发负载下，

拥有极高的读写性能。

3.1 读写优化算法SHARK5100从读缓存加速和写缓存加速两方面着手，通过领先的优化算法，大幅度

提升了系统的读写带宽，尤其是视频等非结构化数据的并发吞吐量。读优化方面，SHARK5100不仅支持传统的文件内预读，也支持文件级预读，能显著

提升大规模数据（尤其是图片数据）读取的缓存命中率，以得到更好的读取带宽。写优化方面，SHARK5100能对多路文件数据流进行更为有效的缓存排序，减少机械

硬盘磁头转动次数，实现更好的聚合写入性能。

3.2 性能叠加和负载平衡得益于强大的横向扩展能力，随着节点数的增多，SHARK5100存储的性能也会近线


深圳市数存科技有限公司性上升。基于万兆以太网络和 Infiniband，SHARK5100可以轻松处理带宽要求苛刻的应用，比如非线性视频编辑、VOD点播、大规模数据备份等。

SHARK5100内置负载平衡模块。通过合理的预配置，多个客户端访问分布式存储，其读写负载会动态地均匀分布到各个节点，避免单个节点出现性能瓶颈。

3.3 SSD加速SHARK5100支持各种接口的 SSD，包括 SATA/SAS SSD和更高可靠性的 PCIe SSD。

如果直接使用 SSD作为数据盘，可以获取很高的 IOPS，但 SSD的价格相对较贵，所以适合对容量需求不大但有大量小文件并发读写的应用负载（比如动漫渲染）。为了在成本和性能之间取得较好的平衡，SSD更为普遍的使用场景是作为二级缓存实

现读写加速。SHARK5100拥有完善的缓存支持策略，SSD可以配置为读缓存、写缓存和读写缓存。对于大规模数据写入，SHARK5100内置的并发写入算法，已经可以实现非常高的写入带宽，因此，结合 SSD自身的读写特性（读一般比写块，读次数不会受到擦除次数的影响），使用 SSD作为读缓存是一种最为典型的应用加速配置。SSD读缓存结合SHARK5100的预读算法，能极大地提升数据的缓存命中率，对于读负载较多（尤其是热点数据较多）的应用，有着非常显著的性能提升作用。比如 VOD点播应用 SHARK5100，每个节点采用 2块企业级 SSD，能极大程度提升系统整体的点播性能。对于应用程序来说，性能提升的过程是全透明的，应用无需做额外的设置，这样也大幅度简化了应用的配置，进一步避免了额外的开发工作，能显著提升业务带来的经济效益。

3.4 客户端加速引擎SHARK5100支持各种标准的NAS访问协议接口，无需安装客户端，Windows、Linux

和MAC OS X等系统即可顺利访问存储集群。使用标准协议访问可得益于 SHARK5100内部对性能做的诸多优化措施，获得卓越的读写性能。但标准协议（比如 CIFS/SMB）并未针对特定的应用负载（比如大规模图像数据的读写）进行优化，在传输文件的过程中有较多的系统性开销，且小文件性能较差，调优也较困难。为了进一步提升性能，SHARK5100


深圳市数存科技有限公司提供了配套的客户端软件，用于克服标准协议带来的性能弊端。

SHARK5100支持Windows和 Linux环境下的专有客户端软件，实现性能加速。在客户端 OS中，只需要用挂载所需访问的卷，接下来访问存储的过程就等同于访问本地文件系统，使用 POSIX兼容的方式即可对数据进行对应的操作。特别地，对于Windows系统，SHARK5100的Windows客户端技术在业界是首创和领

先的。Windows客户端的加速代码从协议优化和客户端缓存处理等多方面入手，能够实现文件的快速传输和性能聚合，彻底解决业界的难题——基于 Linux实现的分布式存储系统无法通过Windows高速访问。对于非线性编辑、动漫渲染等普遍采用Windows工作站访问存储设备的应用，SHARK5100的Windows客户端加速引擎，能够给用户带来最佳的性能和最好的用户体验，极大地推进业务的发展。

4. 业务连续性SHARK5100能够从多个维度提升业务的连续性，为用户的数据可用性提供全面的保

护，也对企业业务的不间断运行，提供最周全的保障机制。

4.1 数据冗余模式为了保护数据，避免数据丢失，SHARK5100支持如下几种冗余模式：多副本多副本方式是首推的数据保护方式。SHARK5100支持副本数的为 2-5。用户可根据需

要达到的保障级别和预算投入，选择合适的副本数。当副本数设置为 N（2<=N<=5）时，分布式存储集群支持至少 N个节点故障而不影响系统可用性。考虑到存储利用率，对于分布式存储环境，一般建议设置为 2~3。对于普通的企业数据环境，副本一般设置为 2，意即每份数据保存 2份。对于极为重要的数据，副本数建议设置为 3。

纠删码纠删码（Erasure Coding）是一种编码传输技术，它把数据分成多个部分，然后通过一


深圳市数存科技有限公司定的数学方法计算出数据的冗余编码，然后把原始数据和冗余编码都保存下来。例如，一个数据片段可以把它拆分为 N份，然后计算出M个校验码片段，N+M份数据分别存放在不同的地方，可支持M个数据片段损坏，然后通过数学方法计算出原始数据。

SHARK5100支持节点间的纠删码设置，能把数据拆成 N份，保存到 N个不同的节点上，同时保存对应的 M个校验码片段。N和 M可以在规定范围内灵活地设置。这样，N+M个节点组成的集群，损坏了任意M个节点，所有数据仍然可读可写，业务也不会中断。其存储利用率为 N/(N+M)，高于副本方式。纠删码的计算较为复杂，对硬件配置的要求，比副本模式的配置要求高。

节点内 RAID

SHARK5100支持节点内实现硬盘级别的容错。如果节点内部出现坏盘，可以通过RAID5/6等方式来提供数据完整性，在不影响其他存储节点的同时，仍能保障业务的持续进行。节点内 RAID可以和多副本技术组合使用，提供多层次的数据保护。部分行业（比如安防行业）的用户对于系统的性价比有较高要求。如果采用多副本做

数据冗余保护，其成本往往超过预算；即使采用纠删码，综合成本也较高，且性能会受到一定影响。在预算有限的情况下，采用节点内 RAID无副本的方式，在提供更大的可用容量的同时仍能保障硬盘级别的容错。

数据自动恢复当存储系统出现坏盘等常见问题时，即使仍可以正常运行，但因为冗余度降低，其后

续的容错程度也会降低。为提高系统的可靠性，SHARK5100支持透明的数据自动恢复机制，当出现坏盘等故障时，更换新盘后，能够自动地恢复损坏的数据，使系统迅速恢复到原始的健康状态。而且，数据恢复的速度可以智能调节，在尽可能加快数据恢复速度的同时，避免对用户的读写业务性能造成影响。

4.2 高可用性高可用性意味着任意一个或者多个部件损坏，系统仍然完全可用，业务不会中断掉。


深圳市数存科技有限公司SHARK5100使用多重技术，在软件层次来保障系统的高可用性，比基于硬件的高可用性适应性更强，且可靠性更高。当系统采用多副本或者纠删码的冗余方式时，如果一个或者多个节点完全损坏，系统

仍然可以正常运行，数据读写不会中断，所有数据都可访问。具体来说，如果采用 N副本，则系统至少可以容忍N-1个节点损坏；如果采用N+M的纠删码，可以容忍M个节点损坏。当系统不采用副本或者纠删码的冗余方式时，出现一个或者多个节点损坏，CX-

CLOUD-F仍然可以对写入业务的持续进行提供一定的保障，具体内容详见下一节。

4.3 无副本设置下的业务连续性在没有副本（仅采用节点内 RAID）的分布式环境中，如果出现一个或者多个节点完

全损坏，不仅仅是相关的数据无法读出，后续的数据也无法正常写入，导致业务系统的直

接停滞。 SHARK5100中创新的业务连续性技术能有效解决该问题。使用该技术，新的业务数据仍然可以全盘持续写入，保证业务在无人工干预的情况下不中断。更为重要的是，损坏的节点经过排查修复，还可以重新在线加入集群中。在部分行业的实施方案中（比如安防行业），因为成本的因素，需要考虑无副本的存

储方案。此类应用一般要求是必须能够忍受硬盘错误（因为坏盘是常见现象）。节点出错时，只要能够保证之前的数据在必要时有办法读出即可。但后面的业务数据必须持续写入否则就可能出现大量的数据丢失。这项技术，可以在最大程度控制成本的前提下，实现最好的数据保障。

4.4 异地容灾技术SHARK5100支持异地容灾技术。存储集群的数据，能够以增量的方式快速地同步到

异地集群中，进一步提高数据的可用性。增量同步技术可以在本地集群和异地集群的连接带宽较低的情况下快速同步文件，确保数据在异地有完整的备份。此外，SHARK5100在插件的支持下，也可把数据同步到 AWS、阿里云等公有云存储

中。



5. 企业业务兼容性5.1 全接口

SHARK5100提供了丰富的访问接口，完全和传统的 NAS兼容，用户可以直接拿它替换现有的 NAS系统，即可在保障现有企业业务的前提下，把基于有限存储容量的传统应用程序迁移到基于近似无限容量的分布式存储上来，获得更大的容量、更好的扩展性、更高的性能、更好的可用性。

SHARK5100支持通过多种协议访问内部的存储数据，最大程度兼容客户的已有业务环境。 SHARK5100 无需安装客户端，使用 CIFS/

SAMBA、NFSv3、FTP、WebDAV、OpenStack Swift、HDFS等标准协议即可访问数据。虽然使用标准协议访问数据给用户带来了极大的便利性，但 SHARK5100也针对 Linux和Windows等环境提供专有客户端软件，满足用户对于高性能数据传输的需求，用户在客户端挂载数据卷之后，可以用 POSIX兼容的方式操作相关文件。

5.2 多平台支持市面上主流的操作系统均可以通过多种协议访问 SHARK5100集群，这些系统包括

Microsoft Windows、Redhat Enterprise Linux、CentOS、Ubuntu、Debian、Fedora、SUSE

Linux Enterprise、MAC OS X等。SHARK5100集群能够连接 OpenStack、CloudStack等云计算环境，为它们提供底层存

储支持。SHARK5100集群能配合Hadoop、Spark等大数据分析环境使用，为它们提供底层存储

支持。

5.3 权限设置和数据隐私SHARK5100支持完整的无限制的权限控制，全面满足用户的实际业务需求。它支持


深圳市数存科技有限公司创建足够多的用户或者组，在不同的目录针对不同的用户赋予不同的权限（可读可写、只读、禁止访问等）。同时还支持复杂的分级目录权限，给每一层目录设置独立的权限，严格控制内部数据的安全性和隐私性。

SHARK5100支持Windows Active Directory，最大程度地兼容用户已有的 Windows域控环境，能直接接驳到已有的Windows集群中，使用已有的用户账号对它进行管理。

6. 易部署和易维护6.1 易部署传统的分布式存储部署涉及到复杂的配置，管理员需要非常专业的操作技能，熟悉

Linux/UNIX系统以及复杂的网络配置，相关的配置步骤需利用配置文件和脚本来完成。SHARK5100针对以上弊端，推出了非常简单的基于图形化界面的快速部署方案。用

户仅需要通过Web访问每个节点，进行包括 IP设置等的简单网络配置，便可以把分布式存储搭建好。通过内置的图形化向导，也可以快速对整个环境初始化，建立数据卷，对外提供服务。

6.2 易维护SHARK5100采用了基于Web的 EasyUI技术，提供操作简单、功能强大的 UI界面。

用户可以通过任意一个节点对分布式存储进行管理，修改相关配置，查看运行状态，系统告警，以及实时的性能数据（包括 CPU、网络带宽、读写带宽等）。此外，告警信息也可以通过电子邮件、SNMP和 RESTful API获取。对于最终用户来说，一般情况下仅需关注系统的告警，便能实时监测整套系统的健康

状况。得益于采用了数据自我恢复技术，许多告警能够在一段时间之后自动消除。如果遇到了性能瓶颈，通过对性能数据的简单分析，也能快速定位问题所在。



SHARK5000UI界面

7. 企业应用场景优化SHARK5100的主要应用场景为企业大规模非结构化生产数据的存储。其中，通过特

有的架构设计和加速算法，特别适合有大规模图像数据（图片、视频等）读写的应用场景特别地，SHARK5100能为以下应用场景提供最佳的解决方案：广电类业务：凭借对于视频文件存储的充分优化、优异的并发读写性能（尤其是读性

能）以及系统的高可靠性，SHARK5100广泛适用于传统广电类和新型互联网视频类业务，包括电视台和影视制作公司的非线性编辑、节目管理，以及广电网络和互联网视频提供商的VOD点播、媒资管理、直播和时移回看等业务场景。渲染业务：大规模渲染（比如渲染农场）对于共享存储的并发读写有着非常高的要求，

渲染时间过长的罪魁祸首往往是存储系统所导致。SHARK5100在读写方面做了大量的针对性优化，无论是大文件还是小文件，都能通过这些优化算法获得更快的访问速度。这些技术极大地提升整体渲染速度，保障按时按质完成相关任务。此外，SHARK5100的高可用性，可以确保大规模长时间的渲染任务不中断运行。安防业务：视频监控、交警卡口、执法记录仪等安防应用是存储消耗大户，PB级的部

署处处可见。安防业务对于性能、功能、业务连续性和成本都有较高的要求。SHARK5100

的图像存储加速算法、全平台（Windows、Linux）客户端加速引擎、无副本环境下的业务连续性等技术，不仅可以满足高带宽读写的需要，还能在控制成本的前提下比竞争对手提供更高的数据保障。尤其是无副本环境下的业务连续性等技术，在不采用节点冗余技术的情况下，可以保障视频数据在节点故障之后能够持续写入，提供了迄今为止安防行业性价比最高的分布式存储解决方案。地址：深圳市龙岗区雪岗北路天安云谷 3栋 C座 13楼 1303 电话：0755-28168486

深圳市数存科技有限公司医疗 PACS业务：随着医疗技术的飞速发展，PACS系统已经成为每个医院的标配。

SHARK5100能为 PACS系统提供更快的访问速度，减少医生读片的等待时间。它还能让影像数据可靠保存数年之久，为医学科研、病例分析等业务提供更为完善的数据保障服务。


Documents

容灾-异地容灾备份-容灾一体机-数据安全备份-数据库双活网关 ... · Web view3.并发高性能6 3.1读写优化算法6 3.2性能叠加和负载平衡6 3.3SSD加速6