Hadoop——第六章 : 分布式文件系统HDFS

6-1HDFS课程概述

HDFS

Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束,来实现流式读取文件系统数据的目的。HDFS在最开始是作为Apache Nutch搜索引擎项目的基础架构而开发的。HDFS是Apache Hadoop Core项目的一部分。 
HDFS有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

课程概述

一、操作HDFS
  1、Web Console:端口50070
  2、命令行
  3、Java API 

二、HDFS输出数据原理
  1、数据上传的原理(过程)
  2、数据下载的原理(过程) 

三、HDFS的高级特性   1、回收站
  2、快照snapshot:备份
  3、配额quota:
    (1)名称配额
    (2)空间配额
  4、HDFS安全模式: safemode
  5、HDFS的权限
  6、HDFS的集群:
    (1)联盟Federation
    (2)HA 

四、HDFS底层原理
  1、Java的动态代理
  2、RPC:remote procedure call 远程过程调用

启动HDFS

1.start-dfs.sh
 
2.jps查看一下进程是否启动
 
3.如果没有启动成功,就去hadoop目录下看看对应的日志文件


猜你喜欢

转载自www.cnblogs.com/JasonPeng1/p/11965717.html