问题描述
上传或者操作hdfs的文件时候遇到 node is in safe mode
.(处于安全模式),处于这个模式虽然不能进行修改文件的操作,但是可以浏览
目录结构、查看
文件内容的。
解决方案
那就是退出安全模式
离开安全模式,命令 hadoop dfsadmin -safemode leave
扩展命令
查看安全模式状态,命令 hadoop dfsadmin -safemode get
进入安全模式状态,命令 hadoop dfsadmin -safemode enter
(集群升级维护时使用)
那么hdfs什么时候会进入安全模式?
①启动或者重新启动hdfs时;②HDFS维护升级时
安全模式是hadoop的一种保护机制
,用于保证集群中的数据块
的安全性。
当集群启动
的时候,会首先
进入安全模式。当系统处于安全模式时会检查数据块的完整性。假设我们设置的副本数(即参数dfs.replication
)是5,那么在datanode上就应该有5个副本存在,假设只存在3个副本,那么比例就是3/5=0.6。在配置文件hdfs-default.xml
中定义了一个最小的副本的副本率
0.999,如图
我们的副本率0.6明显小于0.99,因此系统会自动的复制副本到其他的dataNode,使得副本率不小于0.999.如果系统中有8个副本,超过我们设定的5个副本,那么系统也会删除多余的3个副本。
安全模式对我们有什么影响呢?
这时,不允许客户端进行任何修改文件的操作,包括上传文件,删除文件,重命名,创建文件夹等操作。比如创建文件
时,在源代码中就有对安全模式的判断,如图所示
当我们在安全模式下进行修改文件
操作时,会报如下错误,如图
正常情况下,安全模式会运行一段时间自动退出的,只需要我们稍等一会就行了,到底等多长时间呢,我们可以通过50070端口查看安全模式退出的剩余时间,如图
安全模式是hadoop的一种保护机制,在启动时,最好是等待集群自动退出,然后进行文件操作。
检查hdfs是否健康
可以使用fsck
检查一下HDFS的健康度
fsck相关介绍:
hadoop fsck
Usage:DFSck
<path>
检查这个目录中的文件是否完整
-move
破损的文件移至/lost+found目录
-delete
删除破损的文件
-openforwrite
打印正在打开写操作的文件
-files
打印正在check的文件名
-blocks
打印block报告(需要和-files参数一起使用)
-locations
打印每个block的位置信息(需要和-files参数一起使用)
-racks
打印位置信息的网络拓扑图(需要和-files参数一起使用)
hadoop fsck /
用这个命令可以检查整个文件系统的健康状况,但是要注意它不会主动恢复
备份缺失的block,这个是由NameNode单独的线程异步处理
的.