spark2.0的SparkSQLbug

Spark2.0虽然速度很快,但是SparkSQL很多bug,没法采用SparkSession把数据从MySQL中导入和获取数据,采用Spark shell可以进入,执行spark.read.format("jdbc").options(Map("url" ->"jdbc:mysql://192.168.10.41:3306","user","root","password" -> "123456","Driver":"com.jdbc.mysql.Driver")).load(),一开始会出现报错,错误信息一般是:AlreadyExistsException,但是第二次运行同样的语句又是ok的,还有spark这样导入数据时,可以show(),但是不能write.saveAsTable(“table”);没法真正的保存数据进入。目前发现Spark2.0很不稳定,很多明显的bug,建议大家还是先使用Spark1.6.2版本

 大家可以去学途无忧,或者大象在线分享看看夜行侠老师的spark视频

http://www.itjoin.org/course/detail/57aa8938b52a8f0ddbd81763

猜你喜欢

转载自smart152829.iteye.com/blog/2321800