关于运行spark streaming netcat输入无结果的问题(streaming 线程要求)

关于运行spark streaming netcat输入无结果的问题

问题描述

在这里插入图片描述
问题简单来讲就是,在客户端启动wordcounts样例后,在netcat服务端输入东西,客户端没有任何显示,除了途中的两个正常警告。
看了一下spark ui网页,上面的Running Applications 是空的,就算说没有程序在跑的我spark。

解决办法

查找样例的源代码,但是没找到,在虚拟机中找到了分别不同版本的样例代码在这里插入图片描述
看到这里基本上就知道是啥问题了,没有设置master,然后默认是以local 或者local[1]运行,但是spark streaming 是线程要求是大于2。所以说我们在运行的时候要给上master,因为是运行样例,不是用spark-submit运行,而是用rum-example运行,所以没有添加master节点,才会导致默认是用local[1],才会没有结果。

最后用run-example --master spark://ip:7077 运行成功

猜你喜欢

转载自blog.csdn.net/weixin_43859562/article/details/106412532