NameNode	DataNode
存储元数据	存储文本内容
元数据保存在内存中	文件内容保存在磁盘
保存文件，block，datanode之间的映射关系	维护了block id到datanode本地文件的映射关系

名称节点

在HDFS中，名称节点（NameNode）保存了两个核心的数据结构，即 FsImage 和 EditLog

FsImage维护文件树以及文件树中所有的文件和文件夹的元数据
EditLog中记录了所有针对文件的创建、删除、重命名等操作

FsImage文件：包含文件系统中所有目录和文件的元数据信息，如修改和访问时间、访问权限、分块情况等。FsImage文件没有记录文件包含的每个块存储在哪个数据节点，文件块位置信息只存储在内存中。

当数据节点加入HDFS集群时，数据节点会把自己所包含的块列表告知给名称节点，此后会定期执行这种告知操作，以确保名称节点的块映射是最新的。

在名称节点启动的时候，它会将FsImage文件中的内容加载到内存中，之后再执行EditLog文件中的各项操作，使得内存中的元数据和实际的同步。一旦在内存中成功建立文件系统元数据的映射，则创建一个新的FsImage文件和一个空的EditLog 文件。

名称节点在启动的过程中处于“安全模式”，只提供读操作，不提供写操作。启动过程结束后，系统就会退出安全模式，进入正常运行状态，对外提供读写操作。

名称节点启动成功并进入到正常运行状态以后，HDFS中的更新操作会重新写到EditLog文件中，而不是FsImage。

因为FsImage文件一般都很大（GB级别的很常见），如果所有的更新操作都往FsImage文件中添加，这样会导致系统运行的十分缓慢，相对而言，EditLog 要小很多，写入EditLog是更加高效的
每次执行写操作之后，且在向客户端发送成功代码之前， EditLog文件都需要同步更新

在名称节点运行期间，HDFS的所有更新操作都是直接写到EditLog中，久而久之， EditLog文件将会变得很大。

在名称节点重启的时候，名称节点需要先将 FsImage 里面的所有内容映像到内存中，然后再一条一条地执行 EditLog中的记录，当EditLog文件非常大的时候，会导致名称节点启动操作非常慢，而在这段时间内HDFS系统处于安全模式，一直无法对外提供写操作，影响了用户的使用。因此，Hadoop官方提出了第二名称节点（SecondaryNameNode）的概念。

第二名称节点

第二名称节点用途主要是防止日志文件 EditLog过大，导致名称节点失败恢复时消耗过多时间。第二名称节点不是热备份，只是附带起到冷备份的功能。

SecondaryNameNode的工作情况：

SecondaryNameNode会定期和 NameNode通信，请求其停止使用 EditLog文件，暂时将新的写操作写到一个新的文件 edit.new上
SecondaryNameNode通过 HTTP GET方式从 NameNode上获取到 FsImage和 EditLog文件，并下载到本地的相应目录下
SecondaryNameNode将下载下来的 FsImage载入到内存，然后一条一条地执行 EditLog文件中的各项更新操作，使得内存中的 FsImage保持最新，这个过程就是 EditLog和 FsImage文件合并
SecondaryNameNode执行完步骤 3 操作之后，会通过post方式将新的 FsImage文件发送到 NameNode节点上
NameNode将从 SecondaryNameNode接收到的新的 FsImage替换旧的 FsImage文件，同时将 edit.new替换 EditLog文件，通过这个过程 EditLog就变小了

d33

数据节点

数据节点是分布式文件系统HDFS的工作节点，负责数据的存储和读取，会根据客户端或者是名称节点的调度来进行数据的存储和检索，并且向名称节点定期发送自己所存储的块的列表。

每个数据节点中的数据会被保存在各自节点的本地 Linux文件系统中。

HDFS体系结构

HDFS采用了主从（Master/Slave）结构模型，一个 HDFS集群包括一个名称节点（NameNode）和若干个数据节点（DataNode）。

名称节点作为中心服务器，负责管理文件系统的命名空间及客户端对文件的访问。

集群中的数据节点一般是一个节点运行一个数据节点进程，负责处理文件系统客户端的读/写请求，在名称节点的统一调度下进行数据块的创建、删除和复制等操作。每个数据节点会周期性的向名称节点报告自己的状态，没有按时报告的数据节点会被标记为“宕机”，不再给它分配I/O请求。
d34

HDFS使用的是传统的分级文件体系，因此，用户可以像使用普通文件系统一样，创建、删除目录和文件，在目录间转移文件，重命名文件等。

HDFS存储原理

机架感知（Rack Awareness）

机架内的机器之间的网络速度通常都会高于跨机架机器之间的网络速度，并且机架之间机器的网络通信通常受到上层交换机间网络带宽的限制
希望不同节点之间的通信能够尽量发生在同一个机架之内，而不是跨机架
为了提高容错能力，名称节点会尽可能把数据块的副本放到多个机架上

冗余数据保存

作为一个分布式文件系统，为了保证系统的容错性和可用性，HDFS采用了多副本方式对数据进行冗余存储，通常一个数据块的多个副本会被分布到不同的数据节点上

加快数据传输速度
容易检查数据错误
保证数据可靠性

d35

数据存取策略

数据存放：

第一个副本：如果是集群内发起写操作请求，放置在发起请求的数据节点上；如果来自集群外，随机挑选一台磁盘不太满、CPU不太忙的节点
第二个副本：放置在与第一个副本不同的机架的节点上
第三个副本：与第二个副本相同机架的其他节点上
更多副本：随机节点

d36

数据读取：就近原则

当客户端读取数据时，从名称节点获得数据块不同副本的存放位置列表，列表中包含了副本所在的数据节点，开启机架感知后可以确定客户端和这些数据节点所属的机架ID
当发现某个数据块副本对应的机架ID和客户端对应的机架ID相同时，就优先选择该副本读取数据，如果没有发现，就随机选择一个副本读取数据

数据错误与恢复

HDFS部署在大规模的集群上，并且可以兼容廉价的硬件，它把硬件出错看作一种常态，而不是异常，并设计了相应的机制检测数据错误和进行自动恢复，主要包括以下几种情形：名称节点出错、数据节点出错和数据出错。

名称节点出错
- 名称节点保存了所有的元数据信息，其中，最核心的两大数据结构是 FsImage和 Editlog，如果这两个文件发生损坏，那么整个HDFS实例将失效。
- HDFS设置了备份机制，把这些核心文件备份到第二名称节点 SecondaryNameNode上。当名称节点出错时，就可以根据备份服务器中的 FsImage和 Editlog数据进行恢复，但需要暂停服务一段时间
数据节点出错
- 每个数据节点会定期向名称节点发送“心跳”信息，向名称节点报告自己的状态
- 当数据节点发生故障，或者网络发生断网时，名称节点就无法收到来自一些数据节点的心跳信息，这时，这些数据节点就会被标记为“宕机”，节点上面的所有数据都会被标记为“不可读”，名称节点不会再给它们发送任何I/O请求
- 这时，有可能出现一种情形，即由于一些数据节点的不可用，会导致一些数据块的副本数量小于冗余因子。名称节点会定期检查这种情况，一旦发现某个数据块的副本数量小于冗余因子，就会启动数据冗余复制，为它生成新的副本
- HDFS和其它分布式文件系统的最大区别就是可以调整冗余数据的位置（负载严重不均衡时也可做调整）
数据出错
- 网络传输和磁盘错误等因素，都会造成数据错误
- 客户端在读取到数据后，会对数据块进行校验，以确定读取到正确的数据
- 在文件被创建时，客户端就会对每一个文件块进行信息摘录，并把这些信息写入到同一个路径的隐藏文件里面
- 当客户端读取文件的时候，会先读取该信息文件。然后，利用该信息文件对每个读取的数据块进行校验，如果校验出错，客户端就会请求到另外一个数据节点读取该文件块，并且向名称节点报告这个文件块有错误，名称节点会定期检查并且重新复制这个文件块

HDFS数据读写过程

FileSystem是一个通用文件系统的抽象基类，可以被分布式文件系统继承，所有可能使用 Hadoop文件系统的代码，都要使用这个类。Hadoop为 FileSystem这个抽象类提供了多种具体实现，DistributedFileSystem就是 FileSystem在 HDFS文件系统中的具体实现。

FileSystem的 open( )方法返回的是一个输入流 FSDataInputStream对象，在HDFS文件系统中，具体的输入流就是DFSInputStream。FileSystem中的 create( )方法返回的是一个输出流 FSDataOutputStream对象，在 HDFS文件系统中，具体的输出流就是 DFSOutputStream。

事实上，这些具体的输入输出流都已经被封装在了 FSDataInputStream/FSDataOutputStream对象中了，直接使用这两个对象即可。

读过程

d37

读数据的流程：

1.打开文件
- Configuration conf = new Configuration( );
- FileSystem fs = FileSystem.get(conf);
- FSDataInputStream in = fs.open(new Path(uri));
2.获取数据块信息
- 通过ClientProtocal.getBlockLocations( ) 远程调用名称节点，获得文件开始部分数据块的位置。对于该数据块，名称节点返回保存该数据块的所有数据节点的地址，并根据距离客户端远近进行排序
3.读取请求
- 客户端获得输入流 FSDataInputStream以后，调用read( )函数开始读取数据。输入流根据前面的排序结果，选择距离客户端最近的数据节点，建立连接并读取数据
4.读取数据
- 数据从数据节点读到客户端，当该数据块读取完毕时，FSDataInputStream关闭和该数据节点的连接。
- 如果系统中还有数据需要读取，则转至第3步继续查找下一个数据块，接着读入数据，直到所有数据块都读取完毕。
5.关闭文件

读数据实例：

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

import java.io.BufferedReader;
import java.io.InputStreamReader;

public class HDFSReadFile {    
    public static void main(String[] args) {        
        try{            
            Configuration conf = new Configuration();
            conf.set("fs.defaultFS", "hdfs://localhost:9000");
            FileSystem fs = FileSystem.get(conf);
            Path filename = new Path("input/localfile.txt");
            //Path filename = new Path("hdfs://localhost:9000/user/bigdata/input/localfile.txt");
            FSDataInputStream is = fs.open(filename);
            BufferedReader d = new BufferedReader(new InputStreamReader(is));
            String content = d.readLine();
            System.out.println(content);
            
            d.close();
            s.close();        
            }
            catch (Exception e){
                e.printStackTrace();        
            }    
    }
}

写过程

d38

写数据的流程：

1.创建文件请求
- Configuration conf = new Configuration( );
- FileSystem fs = FileSystem.get(conf);
- FSDataOutputStream out = fs.create(new Path(uri));
2.创建文件元数据
- RPC远程调用名称节点，在文件系统的命名空间中新建一个文件，名称节点会执行一些检查（文件是否存在，客户端权限）
3.写入数据
- 数据被分成一个个分包，分包被放入 DFSOutputStream对象的内部队列。DFSOutputStream向名称节点申请保存数据块的若干数据节点
4.写入数据包
- 这些数据节点形成一个数据流管道，队列中的分包最后被打包成数据包，发往数据流管道中的第一个数据节点。第一个数据节点将数据包发送到第二个节点，依此类推，形成“流水线复制”
5.接受确认包
- 为了保证节点数据准确，接收到数据的数据节点要向发送者发送“确认包”。确认包沿着数据流管道逆流而上，经过各个节点最终到达客户端。客户端收到应答时，它将对应的分包从内部队列移除
- 不断执行步骤3-5，直到数据全部写完
6.关闭文件
- DFSOutputStream调用 ClientProtocal.Complete( )方法通知名称节点关闭文件

写数据实例：

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

public class HDFSWriteFile {    
    public static void main(String[] args) {        
        try{            
            Configuration conf = new Configuration();
            conf.set("fs.defaultFS", "hdfs://localhost:9000");
            FileSystem fs = FileSystem.get(conf);            
            String filename = "newfile.txt";            
            FSDataOutputStream os = fs.create(new Path(filename));
            os.writeChars("This is a new file.");            
            System.out.println("Create File:" + filename);
            
            os.close();            
            fs.close();        
            }        
            catch (Exception e){
                e.printStackTrace();        
            }    
    }
}

风云诀4

发布了61 篇原创文章 · 获赞 25 · 访问量 7179

私信关注