CN103384267A - 一种基于分布式块设备的Parastor200并行存储管理节点高可用方法 - Google Patents
一种基于分布式块设备的Parastor200并行存储管理节点高可用方法 Download PDFInfo
- Publication number
- CN103384267A CN103384267A CN2013102262108A CN201310226210A CN103384267A CN 103384267 A CN103384267 A CN 103384267A CN 2013102262108 A CN2013102262108 A CN 2013102262108A CN 201310226210 A CN201310226210 A CN 201310226210A CN 103384267 A CN103384267 A CN 103384267A
- Authority
- CN
- China
- Prior art keywords
- management node
- node
- management
- parallel high
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Hardware Redundancy (AREA)
Abstract
本发明涉及一种基于分布式块设备的Parastor200管理节点高可用方法，所述方法通过以下两个方面实现：（1）管理节点存储系统信息的同步；（2）管理节点故障切换。本发明通过实现Parastor200管理节点的高可用使Parastor200实现了完全意义上的全冗余设计，系统中任何部件的损坏不影响存储系统的使用。管理节点任何部件的损坏，都可以在数秒内将服务切换到备用节点上。这样既不影响正常使用，又有充足的时间去修复故障。
Description
技术领域
本发明涉及一种基于分布式块设备的Parastor200并行存储管理节点高可用方法。
背景技术
ParaStor200并行存储系统采用了代表存储技术、网络通信技术以及数据管理技术发展方向的并行体系架构，是一款面向海量非结构化数据处理、拥有自主知识产权的高端存储系统。它可以提供TB/s级的高速带宽和EB级的海量存储空间，能够满足飞机汽车船舶设计、生物基因研究、材料科学研究、天气预报、地震监测、环境监测分析、能源勘探、电子商务、网络游戏、社交与视频分享网站建设、动漫渲染、视频编辑处理等领域中对于存储容量和I/O性能要求极高的应用，可广泛应用于政府、教育、科研、制造、企业、医疗、石油、广电、互联网等行业。
MGR表示Parastor200的管理节点，提供统一的控制管理界面，管理员通过该节点管理整个存储系统。
oPara表示Parastor200元数据节点，用于管理存储系统的所有索引数据和命名空间，对外提供单一的全局映像，支持多个节点以Active-Active集群模式工作。
oStor表示Parastor200数据节点，用于提供数据存储空间，内嵌高性能数据存取引擎，并行处理所有客户端的数据访问请求，支持多个oStor以副本方式（1-3个副本）容错。
Parastor200的管理节点，提供统一的控制管理界面，它保存着整个系统重要的拓扑结构及配置信息，管理员通过该节点管理整个存储系统。在整个存储系统中，管理节点的使用频度相对较低，只有当挂载客户端、查看存储系统状态、添加存储单元、删除存储单元等管理操作时才会用到管理节点。在小规模集群中通常管理较为简单，管理操作也比较少，此时管理节点的重要性相对较低，即使管理节点出现故障，我们也有充分的时间去修复管理节点，就算出现管理节点磁盘永久损坏也不至于出现灾难性后果，因为我们可以通过元数据节点、数据节点上的配置信息来重构管理节点上的重要信息。而丢失的只是一些历史数据和客户端授权信息，不会对存储系统造成太大的影响。目前，针对这一问题的解决办法是通过管理界面定期备份管理节点配置信息，当管理节点出现故障时，可以使用备用节点安装管理节点图形界面程序，然后导入备份的信息来完成。另外还有一种技术就是使用共享盘阵通过光纤交换机挂载到主、备管理节点上。主管理节点发生故障时，备管理节点通过挂载保存存储系统 信息的分区获得存储管理节点的所有信息。
现有方案有几个潜在的风险。首先，即便备份频率较高，但还是无法避免两次备份间系统配置被更改的可能。特别是进行了增加或者减少存储单元、更改客户端授权信息等操作，恢复后的信息和真实信息不一样，将会影响系统的正常运行。其次，即便没有任何信息丢失，重构一台管理节点耗费的时间还是比较长的，对于那些规模较大，用户较多，需要经常进行管理操作的系统显然是无法接受的。使用共享盘阵可以解决以上问题，但共享盘阵的成本太高。
发明内容
针对现有技术的不足，本发明提供一种基于分布式块设备的Parastor200并行存储管理节点高可用方法；本发明通过实现Parastor200管理节点的高可用使Parastor200实现了完全意义上的全冗余设计，系统中任何部件的损坏不影响存储系统的使用。管理节点任何部件的损坏，都可以在数秒内将服务切换到备管理节点上。这样既不影响正常使用，又有充足的时间去修复故障。使用分布式块设备技术能够在很小的成本的情况下实现真正的实时同步，保证主、备管理节点存储系统信息完全一致。
本发明的目的是采用下述技术方案实现的：
一种基于分布式块设备的Parastor200并行存储管理节点高可用方法，其改进之处在于，所述方法通过以下两个方面实现：
（1）管理节点存储系统信息文件的同步：采用分布式块设备实现。
（2）管理节点故障切换。
其中，所述（1）中，所述管理节点存储系统信息同步是实现当管理节点上的存储系统信息发生变更时，主管理节点和备管理节点相应目录下的信息一致。
其中，所述分布式块设备是一个用软件实现的、无共享的、服务器之间镜像块设备内容的存储复制解决方案；
当将数据写入本地主机分布式设备上的文件系统时，数据会同时被发送到网络中的另外一台远程主机之上，并以相同的形式记录在一个文件系统中；所述文件系统的创建是由分布式块设备的同步来实现的；
其中于，当远程主机和本地主机都返回写入成功时，整个数据写的过程才返回成功；当主管理节点出现故障时，备管理节点上保留有一份完全相同的数据。
其中，所述（2）中，采用心跳机制判断故障管理节点，即通过在线管理节点和备用管理 节点间连接心跳线发送信息和应答对方的监测，并通过ping第三方节点方式判断故障管理节点并自动实现故障切换。
其中，在进行故障切换时结合资源和服务的迁移实现；所述资源和服务包括：
1）管理节点存储系统信息文件；
2）管理节点管理IP；
3）Parastor200管理服务以及Parastor200图形界面服务；
4）数据同步服务。
其中，所述1）中，管理节点存储系统信息文件资源通过同步备份到备用管理节点上。
其中，所述2）中，所述管理节点管理IP为管理节点向元数据节点、数据节点发送管理命令所走的IP，所述管理节点管理IP在故障切换时从在线管理节点迁移到备用管理节点上。
其中，所述3）中，所述Parastor200管理服务以及Parastor200图形界面服务在故障切换时，从在线管理节点切换到备用管理节点上。
其中，所述4）中，切换后备用管理节点成为主管理节点（主管理节点和备管理节点是相对的概念，在线的管理节点即是主管理节点），将备用管理节点的信息反过来备份到原来的主管理节点上。
与现有技术比，本发明达到的有益效果是：
本发明提供基于分布式块设备的Parastor200并行存储管理节点高可用方法，通过实现Parastor200管理节点的高可用使Parastor200实现了完全意义上的全冗余设计，系统中任何部件的损坏不影响存储系统的使用。管理节点任何部件的损坏，都可以在数秒内将服务切换到备管理节点上。这样既不影响正常使用，又有充足的时间去修复故障。使用分布式块设备技术能够在很小的成本的情况下实现真正的实时同步，保证主、备管理节点存储系统信息完全一致。
具体实施方式
下面对本发明的具体实施方式作进一步的详细说明。
本发明是要实现Parastor200管理节点的高可用。通过分析现有技术存在的问题我们便知道，本发明是要解决以下两个问题：（1）管理节点存储系统信息的同步；（2）管理节点故障切换。
解决管理节点存储系统信息文件同步，就是要实现管理节点存储信息文件发生任何变更 时，备用管理节点对应目录下的存储系统信息文件同时也发生变更，主备节点相应目录下的信息完全一致。本专利采用分布式块设备来解决这个问题。分布式块设备是一个用软件实现的、无共享的、服务器之间镜像块设备内容的存储复制解决方案。当你将数据写入本地的分布式设备上的文件系统时，数据会同时被发送到网络中的另外一台主机之上，并以完全相同的形式记录在一个文件系统中（实际上文件系统的创建也是由分布式块设备的同步来实现的）。当远程主机和本地主机都返回写入成功时整个写的过程才返回成功。因此本地节点与远程节点的数据可以保证实时的同步，并保证IO的一致性。所以当主管理节点出现故障时，备管理节点上还会保留有一份完全相同的数据，可以继续使用，以达到高可用的目
管理节点故障切换时，故障切换首先需要解决的问题就是如何判断故障，这里我们采用心跳机制，通过管理节点和备用管理节点间连接心跳线发送信息和应答对方的监测，并通过ping第三方节点等方式判断故障节点并自动实现故障切换。进行故障切换还需要解决一个重要的问题就是服务、资源的迁移。在本本发明中资源和服务包括：1）管理节点存储系统信息文件，这些资源已通过同步备份到备用节点上。2）管理节点管理IP，这个IP不同于两个节点间同步文件所走的网络的IP。它是管理节点向元数据节点、数据节点发送管理命令所走的IP。这个IP需要在故障切换时从主管理节点迁移到备用管理节点上。3）Parastor200管理服务以及Parastor200图形界面服务，这两个服务也在故障切换时，从管理节点切换到备用节点上。4）数据同步服务，即切换后备用管理节点成为了主管理节点，它需要将它上面的信息反过来备份到原来的主管理节点上。
最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求范围当中。
Claims (10)
1.一种基于分布式块设备的Parastor200并行存储管理节点高可用方法，其特征在于，所述方法通过以下两个方面实现：
（1）管理节点存储系统信息文件的同步：采用分布式块设备实现。
（2）管理节点故障切换。
2.如权利要求1所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述（1）中，所述管理节点存储系统信息同步是实现当管理节点上的存储系统信息发生变更时，主管理节点和备管理节点相应目录下的信息一致。
3.如权利要求1所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述分布式块设备是一个用软件实现的、无共享的、服务器之间镜像块设备内容的存储复制解决方案；
当将数据写入本地主机分布式设备上的文件系统时，数据会同时被发送到网络中的另外一台远程主机之上，并以相同的形式记录在一个文件系统中；所述文件系统的创建是由分布式块设备的同步来实现的。
4.如权利要求3所述的Parastor200并行存储管理节点高可用方法，其特征在于，当远程主机和本地主机都返回写入成功时，整个数据写的过程才返回成功；当主管理节点出现故障时，备管理节点上保留有一份完全相同的数据。
5.如权利要求1所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述（2）中，采用心跳机制判断故障管理节点，即通过在线管理节点和备用管理节点间连接心跳线发送信息和应答对方的监测，并通过ping第三方节点方式判断故障管理节点并自动实现故障切换。
6.如权利要求5所述的Parastor200并行存储管理节点高可用方法，其特征在于，在进行故障切换时结合资源和服务的迁移实现；所述资源和服务包括：
1）管理节点存储系统信息文件；
2）管理节点管理IP；
3）Parastor200管理服务以及Parastor200图形界面服务；
4）数据同步服务。
7.如权利要求6所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述1）中，管理节点存储系统信息文件资源通过同步备份到备用管理节点上。
8.如权利要求6所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述2） 中，所述管理节点管理IP为管理节点向元数据节点、数据节点发送管理命令所走的IP，所述管理节点管理IP在故障切换时从在线管理节点迁移到备用管理节点上。
9.如权利要求6所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述3）中，所述Parastor200管理服务以及Parastor200图形界面服务在故障切换时，从在线管理节点切换到备用管理节点上。
10.如权利要求6所述的Parastor200并行存储管理节点高可用方法，其特征在于，所述4）中，切换后备用管理节点成为主管理节点，将备用管理节点的信息反过来备份到原来的主管理节点上。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201310226210.8A CN103384267B (zh) | 2013-06-07 | 2013-06-07 | 一种基于分布式块设备的Parastor200并行存储管理节点高可用方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201310226210.8A CN103384267B (zh) | 2013-06-07 | 2013-06-07 | 一种基于分布式块设备的Parastor200并行存储管理节点高可用方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN103384267A true CN103384267A (zh) | 2013-11-06 |
| CN103384267B CN103384267B (zh) | 2017-09-01 |
Family
ID=49491958
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201310226210.8A Active CN103384267B (zh) | 2013-06-07 | 2013-06-07 | 一种基于分布式块设备的Parastor200并行存储管理节点高可用方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103384267B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103631903A (zh) * | 2013-11-22 | 2014-03-12 | 曙光信息产业股份有限公司 | 一种数据库同步数据的系统 |
| CN105516365A (zh) * | 2016-01-22 | 2016-04-20 | 浪潮电子信息产业股份有限公司 | 一种基于网络的分布式镜像存储块设备的管理方法 |
| CN107256131A (zh) * | 2017-06-15 | 2017-10-17 | 深圳市云舒网络技术有限公司 | 一种基于tcmu虚拟磁盘分布式块存储系统的性能优化方法 |
| CN116185697A (zh) * | 2023-05-04 | 2023-05-30 | 苏州浪潮智能科技有限公司 | 容器集群管理方法、装置、系统、电子设备及存储介质 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102170460A (zh) * | 2011-03-10 | 2011-08-31 | 浪潮(北京)电子信息产业有限公司 | 一种集群存储系统及其数据存储方法 |
| CN103095837A (zh) * | 2013-01-18 | 2013-05-08 | 浪潮电子信息产业股份有限公司 | 一种实现lustre元数据服务器冗余的方法 |
-
2013
- 2013-06-07 CN CN201310226210.8A patent/CN103384267B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102170460A (zh) * | 2011-03-10 | 2011-08-31 | 浪潮(北京)电子信息产业有限公司 | 一种集群存储系统及其数据存储方法 |
| CN103095837A (zh) * | 2013-01-18 | 2013-05-08 | 浪潮电子信息产业股份有限公司 | 一种实现lustre元数据服务器冗余的方法 |
Non-Patent Citations (2)
| Title |
|---|
| 陈嘉迅，刘晓洁: "分布式块设备复制系统的分析与改进", 《计算机工程与设计》 * |
| 马艳军，等: "集群文件系统lustre的介绍及应用", 《科技信息》 * |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103631903A (zh) * | 2013-11-22 | 2014-03-12 | 曙光信息产业股份有限公司 | 一种数据库同步数据的系统 |
| CN103631903B (zh) * | 2013-11-22 | 2017-09-01 | 曙光信息产业股份有限公司 | 一种数据库同步数据的系统 |
| CN105516365A (zh) * | 2016-01-22 | 2016-04-20 | 浪潮电子信息产业股份有限公司 | 一种基于网络的分布式镜像存储块设备的管理方法 |
| CN107256131A (zh) * | 2017-06-15 | 2017-10-17 | 深圳市云舒网络技术有限公司 | 一种基于tcmu虚拟磁盘分布式块存储系统的性能优化方法 |
| CN107256131B (zh) * | 2017-06-15 | 2019-10-01 | 深圳市云舒网络技术有限公司 | 一种基于tcmu虚拟磁盘分布式块存储系统的性能优化方法 |
| CN116185697A (zh) * | 2023-05-04 | 2023-05-30 | 苏州浪潮智能科技有限公司 | 容器集群管理方法、装置、系统、电子设备及存储介质 |
| CN116185697B (zh) * | 2023-05-04 | 2023-08-04 | 苏州浪潮智能科技有限公司 | 容器集群管理方法、装置、系统、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN103384267B (zh) | 2017-09-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9280430B2 (en) | Deferred replication of recovery information at site switchover | |
| US8195976B2 (en) | Fault-tolerance and fault-containment models for zoning clustered application silos into continuous availability and high availability zones in clustered systems during recovery and maintenance | |
| CN102833580B (zh) | 基于infiniband的高清视频应用系统及方法 | |
| CN101997823B (zh) | 一种分布式文件系统及其数据访问方法 | |
| US20180260125A1 (en) | Synchronously replicating datasets and other managed objects to cloud-based storage systems | |
| DE102021113808A1 (de) | Handhabung von Replikationen zwischen verschiedenen Netzwerken | |
| CN103763155A (zh) | 分布式云存储系统多服务心跳监测方法 | |
| US20100036885A1 (en) | Maintaining Data Integrity in Data Servers Across Data Centers | |
| CN103384266A (zh) | 一种基于文件级实时同步的Parastor200管理节点高可用方法 | |
| CN106502823A (zh) | 数据云备份方法和系统 | |
| CN101808127B (zh) | 数据备份方法、系统和服务器 | |
| CN105069160A (zh) | 一种基于自主可控数据库的高可用性方法及构架 | |
| CN101902498A (zh) | 一种基于网络技术的存储云备份方法 | |
| US9367409B2 (en) | Method and system for handling failures by tracking status of switchover or switchback | |
| CN102413172B (zh) | 一种基于集群技术的并行数据共享装置方法和装置 | |
| CN103166785A (zh) | 基于Hadoop的分布式日志分析系统 | |
| CN109739435A (zh) | 文件存储和更新方法及装置 | |
| CN103384267A (zh) | 一种基于分布式块设备的Parastor200并行存储管理节点高可用方法 | |
| US9367413B2 (en) | Detecting data loss during site switchover | |
| CN103544081A (zh) | 双元数据服务器的管理方法和装置 | |
| CN103076994B (zh) | 一种san共享文件系统中实现离线写文件的方法 | |
| CN114089923A (zh) | 一种双活存储系统及其数据处理方法 | |
| US20160182638A1 (en) | Cloud serving system and cloud serving method | |
| CN203054824U (zh) | 一种服务器存储系统 | |
| CN116400860A (zh) | 融合型存储方法、设备、系统及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20220725 Address after: 100193 No. 36 Building, No. 8 Hospital, Wangxi Road, Haidian District, Beijing Patentee after: Dawning Information Industry (Beijing) Co.,Ltd. Patentee after: DAWNING INFORMATION INDUSTRY Co.,Ltd. Address before: 100193 No.36 Zhongguancun Software Park, No.8 Dongbeiwang West Road, Haidian District, Beijing Patentee before: Dawning Information Industry (Beijing) Co.,Ltd. |
|
| TR01 | Transfer of patent right |