class scala.collection.mutable.WrappedArray overrides final method toBuffer错误

问题描述

class scala.collection.mutable.WrappedArray overrides final method toBuffer.本质上是因为我们使用的SDK和Spark版本不兼容导致的,例如我的spark版本是spark 2.3.4,而我使用了scala-sdk 2.13.2,就导致了这个错误。

PS: 吐槽一下sdk向后兼容做的真的不太好(CUDA也是)

解决办法

下载适合你的spark版本的scala-sdk版本,这里给出一份版本对应关系表。

spark版本 scala-sdk版本
2.2.X 2.11
2.3.0 2.11
2.3.1 2.11
2.3.4 2.12

本人使用的spark版本为2.3.4,故以2.3.4为例,介绍一下解决办法。

1、 进入‘project structure’

在这里插入图片描述

2、添加Scala SDK

在这里插入图片描述

3、下载对应的Scala SDK版本

在这里插入图片描述
在这里插入图片描述

4、选择模块

在这里插入图片描述

5、重启IDEA并运行

在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/qq_37163925/article/details/106886526
今日推荐