个人简介
学习计算机科学与技术专业，喜欢计算机，喜欢linux，喜欢编程
分类：
2012-10-28 13:31:38
原文地址： 作者：liurhyme
文件系统元数据的持久化
namenode上保存着hdfs的名字空间。对于任何对文件系统元数据产生修改的操作，namenode都会使用一种称为editlog的事务日志记录下来。例如，在hdfs中创建一个文件，namenode就会在editlog中插入一条记录来表示；同样地，修改文件的副本系数也将往editlog插入一条记录。namenode在本地操作系统的文件系统中存储这个editlog。整个文件系统的名字空间，包括数据块到文件的映射、文件的属性等，都存储在一个称为fsimage的文件中，这个文件也是放在namenode所在的本地文件系统上。
namenode在内存中保存着整个文件系统的名字空间和文件数据块映射(blockmap)的映像。这个关键的元数据结构设计得很紧凑，因而一个有4g内存的namenode足够支撑大量的文件和目录。当namenode启动时，它从硬盘中读取editlog和fsimage，将所有editlog中的事务作用在内存中的fsimage上，并将这个新版本的fsimage从内存中保存到本地磁盘上，然后删除旧的editlog，因为这个旧的editlog的事务都已经作用在fsimage上了。这个过程称为一个检查点(checkpoint)。在当前实现中，检查点只发生在namenode启动时，在不久的将来将实现支持周期性的检查点。
datanode将hdfs数据以文件的形式存储在本地的文件系统中，它并不知道有关hdfs文件的信息。它把每个hdfs数据块存储在本地文件系统的一个单独的文件中。datanode并不在同一个目录创建所有的文件，实际上，它用试探的方法来确定每个目录的最佳文件数目，并且在适当的时候创建子目录。在同一个目录中创建所有的本地文件并不是最优的选择，这是因为本地文件系统可能无法高效地在单个目录中支持大量的文件。当一个datanode启动时，它会扫描本地文件系统，产生一个这些本地文件对应的所有hdfs数据块的列表，然后作为报告发送到namenode，这个报告就是块状态报告。
给主人留下些什么吧！~~