项目场景:
使用Scala开发的Flink代码中,在方法中定义了case class
例如:
def csvFile(env:ExecutionEnvironment) = {
// 导入隐士转换
import org.apache.flink.api.scala._
val filePath = "file:///data/word.csv"
case class MyCaseClass(name:String, age:Int)
// case class 方式
env.readCsvFile[MyCaseClass](filePath,ignoreFirstLine = true, includedFields = Array(0,1)).print()
}
问题描述:
运行代码时报错:
Exception in thread "main" java.lang.InternalError: Malformed class name
原因分析:
不知道是什么原因,上google查,发现了一点踪迹,好像是jdk1.8版本的bug,已经记录在scala的bug提交列表了,看了半天也没有发现怎么解决的。
scala的代码bug Issues 已经在2012年关闭了。。。。
解决方案:
如上,我们在Flink里定义case class 的时候,为了避免上述bug,不要在方法中定义case class。
正确代码:
object app{
def main(args: Array[String]): Unit = {
// step 1 创建环境
val env = ExecutionEnvironment.getExecutionEnvironment
csvFile(env)
}
def csvFile(env:ExecutionEnvironment) = {
// 导入隐士转换
import org.apache.flink.api.scala._
val filePath = "file:///data/word.csv"
// case class 方式
env.readCsvFile[MyCaseClass](filePath,ignoreFirstLine = true, includedFields = Array(0,1)).print()}
}
case class MyCaseClass(name:String, age:Int)