Hadoop本地模式下,用ecliose调试mapreduce程序

在windows环境下,调试mapreduce程序:

1、需要将在windows 编译下的hadoop.dll文件与wintuils.exe文件加入到到本地hadoop下的lib文件中

2、将Hadoop.dll添加至C盘windows文件夹下的systems32文件中(好像版本不同的话,这一步可做可不做)

3. 配置环境变量%Hadoop_home%,并将%Hadoop_home%/bin路径添加至path变量中

在cmd窗口中,输入 hadoop并回车,出现下列内容表示hadoop配置成功:

切记:源码编译的hadoop.dll需要与本地的hadoop版本相对应,不然会出问题

使用eclipse 调试mapreduce 程序:

      需要将对应版本的hadoop-eclipse-plugin.jar插件添加至eclipse 安装路径下的plugins文件夹下,重启eclipse 在右上角会出现,表示插件可用。

然后就可以编写mapreduce 程序,并进行调试。本地模式非常便于进行业务逻辑的debug,只要在eclipse中打断点即可

(hadoop本地模式下运行,mapreduce程序是被提交给LocalJobRunner在本地以单进程的形式运行)

猜你喜欢

转载自blog.csdn.net/Bazingalqq/article/details/84982288