版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}
object CheckPointDemo {
def main(args: Array[String]): Unit = {
// 要在SparkContext初始化之前设置, 都在无效
System.setProperty("HADOOP_USER_NAME", "atguigu")
val conf = new SparkConf().setAppName("Practice").setMaster("local[2]")
val sc = new SparkContext(conf)
// 设置 checkpoint的目录. 如果spark运行在集群上, 则必须是 hdfs 目录
sc.setCheckpointDir("hdfs://hadoop201:9000/checkpoint")
val rdd1 = sc.parallelize(Array("abc"))
val rdd2: RDD[String] = rdd1.map(_ + " : " + System.currentTimeMillis())
/*
标记 RDD2的 checkpoint.
RDD2会被保存到文件中(文件位于前面设置的目录中), 并且会切断到父RDD的引用, 也就是切断了它向上的血缘关系
该函数必须在job被执行之前调用.
强烈建议把这个RDD序列化到内存中, 否则, 把他保存到文件的时候需要重新计算.
*/
rdd2.checkpoint()
rdd2.collect().foreach(println)
rdd2.collect().foreach(println)
rdd2.collect().foreach(println)
}
}