hadoop中map只处理第一行数据的问题的一个原因

map只处理第一行数据,而且waitforcomletion还返回true,真尼玛神奇。后来找bug找到了源文件那里。

我这里是从网上爬到网址和内容用FileSystem直接写到hdfs里,所以有一个自己加换行符的过程,注意这里换行的话必须要写“\r\n”,不能只写\n !!!

之前学linux学到过一些\r\n和\n的区别感觉解释得也不是很懂,现在也不是很懂,突发奇想加上了,总之加上就ok了。

之前搜map之处理第一行数据的问题没有搜到,可能大神编程的时候都是直接写\r\n的吧,谨把这篇文章献给像我这样的小白。。

猜你喜欢

转载自blog.csdn.net/gychixxx/article/details/78677039