hadoop 2.0.1配置纪要

折腾了一天一夜。

到运行mr任务时卡住了,一直报错,说找不到hadoop的Congfiguration类。
我尝试把hadoop包也打到运行的jar里面,尝试,有报错找不到其他的类。
反正问题就是,application运行时,找不到相应的jar包。


折腾了整整一晚上,最后搞定,说实话,我都不知道是改了哪里搞定的。

注意一点,系统环境变量/etc/profile,hadoop-env.sh。yarn-env.sh,这三个东西都要加上如下的配置:


export HADOOP_PREFIX=/usr/lib/hadoop-2.0.1-alpha

export JAVA_HOME=/usr/lib/jvm/java-1.6.0-sun-1.6.0.30.x86_64
#export JAVA_HOME=/usr/lib/jvm/jdk1.7.0_06

export HADOOP_LOG_DIR=/var/log/hadoop-log
export YARN_LOG_DIR=/var/log/yarn-log


export PATH=$PATH:$HADOOP_PREFIX/bin
export PATH=$PATH:$HADOOP_PREFIX/sbin 
export HADOOP_MAPRED_HOME="${HADOOP_PREFIX}"
export HADOOP_HDFS_HOME="${HADOOP_PREFIX}"
export YARN_HOME="${HADOOP_PREFIX}"
export HADOOP_COMMON_HOME=${HADOOP_PREFIX}
export HADOOP_CONF_DIR="${HADOOP_PREFIX}"/etc/hadoop
export YARN_CONF_DIR=$HADOOP_CONF_DIR



虽然我也觉得,三个地方都要加,很二,很二,但是没办法,就是要加。
其中PATH可能不需要,懒得试了。

然后,貌似每次修改完配置文件都要重启yarn才能生效,是貌似啊,不确定。


另外,jsvc这东西,我用的hadoop-2.0.1与jsvc1.0.5不兼容,退回用1.0.4的jsvc就好了。
jsvc的安装方法是下载那个包,然后解压,然后在该目录下输入ldd jsvc,然后,配好JSVC_HOME=jsvc所在的目录,就行。


datanode的启动,我只在namenode上用root运行start-secure-dns.sh启动成功过。
在各个datanode上执行hadoop-daemon.sh的方法都没有成功启动的,折腾了好久也没有搞定。先凑合用着吧。





猜你喜欢

转载自taoo.iteye.com/blog/1662272
今日推荐