关于运行PI和wordcount的map0%,reduce0%问题解决方法

记得:没金刚钻别揽瓷器活!当然

怎么说呢。。4个site.xml文件配置别搞的太高大上,用默认的就好了,这样就不会导致你机器尤其是master节点卡在map0%和reduce0%了。。。。

为了明白这问题,一搞这问题又是一天啊。。。

我的电脑配置:

3台腾讯云:1核2G,50G;

以下为我的4个site文件配置:

mapred-site.xml

<configuration>
<property>
   <name>mapreduce.framework.name</name>
   <value>yarn</value>
   <description>指明mapreduce的调度框架为yarn</description>
 </property>
</configuration>

hdfs-site.xml

<configuration>
  <property>
   <name>dfs.namenode.name.dir</name>
   <value>file:/usr/local/hadoop/dfs/name</value>
   <description>namenode的目录位置</description>
 </property>
 <property>
  <name>dfs.datanode.data.dir</name>
  <value>file:/usr/local/hadoop/dfs/data</value>
  <description>datanode's address</description>
  </property>
 <property>
  <name>dfs.replication</name>
  <value>3</value>
  <description>hdfs系统的副本数量</description>
 </property>

</configuration>

扫描二维码关注公众号,回复: 50222 查看本文章

core-site.xml

<configuration>
<property>
  <name>fs.defaultFS</name>
  <value>hdfs://master:8020</value>
 </property>
 <property>
  <name>hadoop.tmp.dir</name>
  <value>file:/usr/local/hadoop/tmpdata</value>
  <description>Abasefor other temporary directories.</description>
 </property>

</configuration>

yarn-site.xml

<configuration>
<property>
 <name>yarn.nodemanager.aux-services</name>
 <value>mapreduce_shuffle</value>
</property>
<property>
 <name>yarn.resourcemanager.hostname</name>
 <value>master</value>
</property>

</configuration>

最后,一般情况下都是你代码写错了。。恩,就这么多了。。。

猜你喜欢

转载自blog.csdn.net/PeixinYe/article/details/80053403