B05 - 005、HDFS初识

0、本章学习目录大纲 -

初学耗时:??h

注:CSDN手机端暂不支持章节内链跳转,但外链可用,更好体验还请上电脑端。

一、HDFS介绍

二、HDFS设计目标

三、HDFS重要特性
  3.1  master/slave架构。
  3.2  分块存储。
  3.3  名字空间(NameSpace)。
  3.4  Namenode元数据管理。
  3.5  Datanode数据存储。
  3.6  副本机制。
  3.7  一次写入,多次读出。



ギ 舒适区ゾ || ♂ 累觉无爱 ♀





一、HDFS介绍

alt

  • HDFS 是 Hadoop Distribute File System 的简称,意为:Hadoop 分布式文件系统。
  • 是 Hadoop 核心组件之一,作为最底层的分布式存储服务而存在。
  • 分布式文件系统解决的问题就是大数据存储。
  • 它们是横跨在多台计算机上的存储系统。
  • 分布式文件系统在大数据时代有着广泛的应用前景,它们为存储和处理超大规模数据提供所需的扩展能力。

alt



当两个学者相遇时,比较之中能显优秀。

- - - - - - - - - - - - - - - - - - - - - - - - - - - -


二、HDFS设计目标

  1. 硬件故障是常态, HDFS 将有成百上千的服务器组成,每一个组成部分都有可能出现故障。
    因此故障的检测和自动快速恢复是 HDFS 的核心架构目标。
  2. HDFS 上的应用与一般的应用不同,它们主要是以流式读取数据。
    HDFS 被设计成适合批量处理,而不是用户交互式的。
    相较于数据访问的反应时间,更注重数据访问的高吞吐量。
  3. 典型的 HDFS 文件大小是 GB 到 TB 的级别。
    所以,HDFS 被调整成支持大文件。
    它应该提供很高的聚合数据带宽,一个集群中支持数百个节点,一个集群中还应该支持千万级别的文件。
  4. 大部分 HDFS 应用对文件要求的是 write-one-read-many 访问模型。
    一个文件一旦创建、写入、关闭之后就不需要修改了。
    这一假设简化了数据一致性问题,使高吞吐量的数据访问成为可能。
  5. 移动计算的代价比之移动数据的代价低。
    一个应用请求的计算,离它操作的数据越近就越高效,这在数据达到海量级别的时候更是如此。
    将计算移动到数据附近,比之将数据移动到应用所在显然更好。
  6. 在异构的硬件和软件平台上的可移植性。
    这将推动需要大数据集的应用更广泛地采用 HDFS 作为平台。


当两个学者相遇时,比较之中能显优秀。

- - - - - - - - - - - - - - - - - - - - - - - - - - - -




三、HDFS重要特性

  • 首先,它是一个文件系统,用于存储文件,通过统一的命名空间目录树来定位文件;
  • 其次,它是分布式的,由很多服务器联合起来实现其功能,集群中的服务器有各自的角色。

  3.1 ~ master/slave架构。

  • HDFS 采用 master/slave 架构。
  • 一般一个 HDFS 集群是有一个 Namenode 和一定数目的 Datanode 组成。
  • Namenode 是 HDFS 集群主节点,Datanode 是 HDFS 集群从节点,两种角色各司其职,共同协调完成分布式的文件存储服务。

  3.2 ~ 分块存储。

  • HDFS 中的文件在物理上是分块存储(block)的,块的大小可以通过配置参数来规定,默认大小在 hadoop2.x 版本中是 128M。

  3.3 ~ 名字空间(NameSpace)。

  • HDFS 支持传统的层次型文件组织结构。
  • 用户或者应用程序可以创建目录,然后将文件保存在这些目录里。
  • 文件系统名字空间的层次结构和大多数现有的文件系统类似:用户可以创建、删除、移动或重命名文件。
  • Namenode 负责维护文件系统的名字空间,任何对文件系统名字空间或属性的修改都将被 Namenode 记录下来。
  • 给用户一个友好的元数据存储的展示形式。
  • HDFS 会给客户端提供一个统一的抽象目录树,客户端通过路径来访问文件,形如:hdfs://namenode:port/dir-a/dir-b/dir-c/file.data。

  3.4 ~ Namenode元数据管理。

  • 我们把目录结构及文件分块位置信息叫做元数据。
  • Namenode 负责维护整个hdfs 文件系统的目录树结构,以及每一个文件所对应的 block 块信息(block 的id,及所在的 datanode 服务器)。

  3.5 ~ Datanode数据存储。

  • 文件的各个 block 的具体存储管理由 datanode 节点承担。
  • 每一个 block 都可以在多个 datanode 上。
  • Datanode 需要定时向 Namenode 汇报自己持有的 block信息。
  • 存储多个副本(副本数量也可以通过参数设置 dfs.replication,默认是 3)。

  3.6 ~ 副本机制。

  • 为了容错,文件的所有 block 都会有副本。
  • 每个文件的 block 大小和副本系数都是可配置的。
  • 应用程序可以指定某个文件的副本数目。
  • 副本系数可以在文件创建的时候指定,也可以在之后改变。

  3.7 ~ 一次写入,多次读出。

  • HDFS 是设计成适应一次写入,多次读出的场景,且不支持文件的修改。
  • 正因为如此,HDFS 适合用来做大数据分析的底层存储服务,并不适合用来做网盘等应用,因为,修改不方便,延迟大,网络开销大,成本太高。


当两个学者相遇时,比较之中能显优秀。

- - - - - - - - - - - - - - - - - - - - - - - - - - - -



^ 至此,HDFS初识完成。


- - - - - - - - - - - - - - - - - - - - - - - - - - - -


※ 世间诱惑何其多,坚定始终不动摇。

将一个从大到小的数组,用以下排序方法排序成从小到大的,()最快?


A、插入排序
B、冒泡排序
C、快速排序
D、堆排序

D
alt



当两个学者相遇时,比较之中能显优秀。

- - - - - - - - - - - - - - - - - - - - - - - - - - - -


注:CSDN手机端暂不支持章节内链跳转,但外链可用,更好体验还请上电脑端。

我知道我的不足,我也知道你的挑剔,但我就是我,不一样的烟火,谢谢你的指指点点,造就了我的点点滴滴:)!



当两个学者相遇时,比较之中能显优秀。


猜你喜欢

转载自blog.csdn.net/weixin_42464054/article/details/91530556