如何在Spark2.0.2中启动Ipython Notebook

最近因为学习《Spark机器学习》,里面的第三章涉及到了ipython notebook ,老版本的spark直接在Spark根目录下输入一下就可

IPYTHON=1 IPYTHON_OPTS='--pylab' ./bin/pyspark

可是我下载的是最新的spark2.0.2,这个接口改变了!

解决方法1:
需要改成如下命令才行:

PYSPARK_DRIVER_PYTHON=ipython PYSPARK_DRIVER_PYTHON_OPTS='notebook' ./bin/pyspark

解决方法2:
如果不想上述输入的话,可以直接在/bin/pyspark文件中改动代码,将YSPARK_DRIVER_PYTHON=ipython PYSPARK_DRIVER_PYTHON_OPTS=’notebook’这两条语句赋值到里面也可,具体的只要你一看pyspark里面的代码就清楚了,但是建议不要改动。

解决方法3:
就是修改 ~/.bashrc 文件,添加以下内容:

export PYSPARK_DRIVER_PYTHON=ipython
export PYSPARK_DRIVER_PYTHON_OPTS=”notebook”

然后source ~/.bashrc,就可以通过启动 pyspark 来启动 IPython Notebook 了,原理同上。

参考的链接:Spark 中使用 IPython Notebook

发布了31 篇原创文章 · 获赞 41 · 访问量 13万+

猜你喜欢

转载自blog.csdn.net/circle2015/article/details/53614596