ceph数据重构原理-凯发app官方网站

本文分享自天翼云开发者社区《》，作者:x****n

在分布式存储系统ceph中，硬盘故障是一种常见问题。为了保证数据安全，当发生硬盘故障后，分布式存储系统会依据算法对故障硬盘上的数据进行数据重构及转储。和一般分布式系统一样的是，ceph同样使用多副本机制来保证数据的高可靠性（注：ec在实现层面可以理解为副本机制的一种），给定一份数据，ceph在后台自动存储多份副本（一般使用3个副本），从而使得在硬盘损毁、服务器故障、机柜停电等故障情况下，不会出现数据丢失，甚至数据仍能保持在线。不过在故障发生后，ceph需要及时做故障恢复，将丢失的数据副本补全，以维系持续的数据高可靠性。

一.pg和pglog

ceph中对象数据的维护由pg（placement group）负责，pg作为ceph中zui小的数据管理单元，直接管理对象数据，每个osd都会管理一定数量的pg。客户端对于对象数据的io请求，会根据对象id的hash值均衡分布在各个pg中。pg中维护了一份pglog，用来记录该pg的数据变化，这些记录会被持久化记录到后端存储中。pglog中记录了每次操作的数据和pg的版本，每次数据变更操作都会使pg的版本自增，pglog中默认保存3000条记录，pg会定期触发trim操作清理多余的pglog。通常情况下，在同一个pg的不同副本中的pglog应该是一致的，故障发生后，不同副本的pglog可能会处于不一致的状态。

二.osd的故障种类

故障a：一个正常的osd因为所在的设备发生异常，导致osd不能正常工作，osd被标记为down，某个osd被设置为down状态只是简单触发其承载的pg通过peering进行primary转换（如果需要），以尽快恢复对外业务（此时pg工作在降级状态），后续osd在设定的时间内，它又可以正常的工作，这时会添加会集群中；

故障b：当某个osd处于down状态足够长时间（例如超过600s），才有理由认为对应的osd已经无法完全恢复，此时出于数据安全性考虑，monitor会将其进一步设置为out。

三.osd的故障处理

故障a：osd又重新回到pg当中去，这时需要判断一下，如果osd能够进行增量恢复则进行增量恢复，否则进行全量恢复。（增量恢复：是指恢复osd出现异常的期间，pg内发生变化的object。全量恢复：是指将pg内的全部object进行恢复）。需要全量恢复的操作叫做backfill操作。需要增量恢复的操作叫做recovery操作。peering完成后，pg进入active状态，并根据pg的副本状态将自己标记为degraded/undersized状态，在degraded状态下，pglog存储的日志数量默认会扩展到10000条记录，提供更多的数据记录便于副本节点上线后的数据恢复。进入active状态后，pg可用并开始接受数据io的请求，并根据peering的信息决定是否进行recovery和backfill操作。primary pg将根据对象的缺失列表进行具体对象的数据拷贝，对于replica pg缺失的数据primary 会通过push操作推送缺失数据，对于primary pg缺失的数据会通过pull操作从副本获取缺失数据。在恢复操作过程中，pg会传输完整4m大小的对象。对于无法依靠pglog进行recovery的，pg将进行backfill操作，进行数据的全量拷贝。待各个副本的数据完全同步后，pg被标记为clean状态，副本数据保持一致，数据恢复完成。下图为pg状态机。

故障b：这些pg会重新分配副本到其他osd上。上面的流程的前提故障 osd 在 pglog 保存的zui大条目数以内加入集群都会利用 pglog 恢复，那么如果在 n 天之后或者发生了永久故障需要新盘加入集群时，pglog 就无法起到恢复数据的作用，这时候就需要 backfill(全量拷贝) 流程介入。backfill 会将所有数据复制到新上线的 pg，这里的流程跟上述过程基本一致，唯一的差异就是在primary pg 发现 pglog 已经不足以恢复数据时，这时候同样分为两种情况：

（1）故障 osd 拥有 primary pg，该 pg 在对比 pglog 后发现需要全量拷贝数据，那么毫无疑问 primary pg 在复制期间已经无法处理请求，它会发送一个特殊请求给 monitor 告知自己需要全量复制，需要将 replicate pg 临时性提升为 primary，等到自己完成了复制过程才会重新接管 primary 角色

（2）故障 osd 拥有 replicate pg，该 pg 的 primary 角色会发起 backfill 流程向该 pg 复制数据，由于故障 osd 是 replicate 角色，因此不影响正常 io 的处理。

一个pg中包含的object数量是不限制的，这时会将pg中所有的object进行复制，可能会产生很大的数据复制，因此为了避免产生数据迁移风暴，monitor通过 一个名为 mon_osd_down_out_subtree_limit 的配置项来限制自动数据迁移的粒度，例如设置为主机，则当某个主机上的osd全部宕掉时，这些osd不再会被自动标记为out，也就无法自动进行数据迁移，从而避免数据迁移风暴。

四.扩容时的数据再均衡

当ceph osd添加到ceph存储集群时，集群映射会使用新的 osd 进行更新。因为在crush算法计算pg到osd的映时，osd_id是参数之一，新加入的osd改变了计算的输入，因此会有一部分pg根据crush算法的计算原则进行迁移。下图粗略的展现了数据再均衡过程，假设之前某个pg计算出来straw值（crush算法结果，pg选择osd中zui大的结果进行映射）分别为：straw1，straw2，straw3，增加osd4之后计算，只有当straw4 > max(straw1, straw2, straw3)，这种情况需要将pg数据迁移到osd4上，会有w4/(w1 w2 w3 w4)的pg移动到osd4上（w为ods权重），随着pg数量增多，理论上osd上的pg分布比例为w1:w2:w3:w4。