Spark累加器(Accumulator)陷阱及解决办法

累加器（accumulator）是Spark中提供的一种分布式的变量机制，其原理类似于mapreduce，即分布式的改变，然后聚合这些改变。累加器的一个常见用途是在调试时对作业执行过程中的事件进行计数。

Spark内置的提供了Long和Double类型的累加器。下面是一个简单的使用示例，在这个例子中我们在过滤掉RDD中奇数的同时进行计数，最后计算剩下整数的和。

 1     val sparkConf = new SparkConf().setAppName("Test").setMaster("local[2]")
 2     val sc = new SparkContext(sparkConf)
 3     val accum = sc.longAccumulator("longAccum") //统计奇数的个数
 4     val sum = sc.parallelize(Array(1,2,3,4,5,6,7,8,9),2).filter(n=>{
 5       if(n%2!=0) accum.add(1L) 
 6       n%2==0
 7     }).reduce(_+_)
 8  
 9     println("sum: "+sum)
10     println("accum: "+accum.value)
11  
12     sc.stop()

结果为：

sum: 20
accum: 5

这是结果正常的情况，但是在使用累加器的过程中如果对于spark的执行过程理解的不够深入就会遇到两类典型的错误：少加（或者没加）、多加。

少加的情况：

对于如下代码：

1     val accum = sc.longAccumulator("longAccum")
2     val numberRDD = sc.parallelize(Array(1,2,3,4,5,6,7,8,9),2).map(n=>{
3       accum.add(1L)
4       n+1
5     })
6     println("accum: "+accum.value)

执行完毕，打印的值是多少呢？答案是0，因为累加器不会改变spark的lazy的计算模型，即在打印的时候像map这样的transformation还没有真正的执行，从而累加器的值也就不会更新。

多加的情况：

对于如下代码：

1     val accum = sc.longAccumulator("longAccum")
2     val numberRDD = sc.parallelize(Array(1,2,3,4,5,6,7,8,9),2).map(n=>{
3       accum.add(1L)
4       n+1
5     })
6     numberRDD.count
7     println("accum1:"+accum.value)
8     numberRDD.reduce(_+_)
9     println("accum2: "+accum.value)

结果我们得到了：

accum1:9

accum2: 18

我们虽然只在map里进行了累加器加1的操作，但是两次得到的累加器的值却不一样，这是由于count和reduce都是action类型的操作，触发了两次作业的提交，所以map算子实际上被执行了了两次，在reduce操作提交作业后累加器又完成了一轮计数，所以最终累加器的值为18。究其原因是因为count虽然促使numberRDD被计出来，但是由于没有对其进行缓存，所以下次再次需要使用numberRDD这个数据集是，还需要从并行化数据集的部分开始执行计算。解释到这里，这个问题的解决方法也就很清楚了，就是在count之前调用numberRDD的cache方法（或persist），这样在count后数据集就会被缓存下来，reduce操作就会读取缓存的数据集而无需从头开始计算了。改成如下代码即可：

1     val accum = sc.longAccumulator("longAccum")
2     val numberRDD = sc.parallelize(Array(1,2,3,4,5,6,7,8,9),2).map(n=>{
3       accum.add(1L)
4       n+1
5     })
6     numberRDD.cache().count
7     println("accum1:"+accum.value)
8     numberRDD.reduce(_+_)
9     println("accum2: "+accum.value)

这次两次打印的值就会保持一致了。

自定义累加器

自定义累加器类型的功能在1.X版本中就已经提供了，但是使用起来比较麻烦，在2.0版本后，累加器的易用性有了较大的改进，而且官方还提供了一个新的抽象类：AccumulatorV2来提供更加友好的自定义类型累加器的实现方式。官方同时给出了一个实现的示例：CollectionAccumulator类，这个类允许以集合的形式收集spark应用执行过程中的一些信息。例如，我们可以用这个类收集Spark处理数据时的一些细节，当然，由于累加器的值最终要汇聚到driver端，为了避免 driver端的outofmemory问题，需要对收集的信息的规模要加以控制，不宜过大。

实现自定义类型累加器需要继承AccumulatorV2并至少覆写下例中出现的方法，下面这个累加器可以用于在程序运行过程中收集一些文本类信息，最终以Set[String]的形式返回。

 1 import java.util
 2  
 3 import org.apache.spark.util.AccumulatorV2
 4  
 5 class LogAccumulator extends AccumulatorV2[String, java.util.Set[String]] {
 6   private val _logArray: java.util.Set[String] = new java.util.HashSet[String]()
 7  
 8   override def isZero: Boolean = {
 9     _logArray.isEmpty
10   }
11  
12   override def reset(): Unit = {
13     _logArray.clear()
14   }
15  
16   override def add(v: String): Unit = {
17     _logArray.add(v)
18   }
19  
20   override def merge(other: AccumulatorV2[String, java.util.Set[String]]): Unit = {
21     other match {
22       case o: LogAccumulator => _logArray.addAll(o.value)
23     }
24  
25   }
26  
27   override def value: java.util.Set[String] = {
28     java.util.Collections.unmodifiableSet(_logArray)
29   }
30  
31   override def copy(): AccumulatorV2[String, util.Set[String]] = {
32     val newAcc = new LogAccumulator()
33     _logArray.synchronized{
34       newAcc._logArray.addAll(_logArray)
35     }
36     newAcc
37   }
38 }

测试类：

 

 1 import java.util
 2  
 3 import org.apache.spark.util.AccumulatorV2
 4  
 5 class LogAccumulator extends AccumulatorV2[String, java.util.Set[String]] {
 6   private val _logArray: java.util.Set[String] = new java.util.HashSet[String]()
 7  
 8   override def isZero: Boolean = {
 9     _logArray.isEmpty
10   }
11  
12   override def reset(): Unit = {
13     _logArray.clear()
14   }
15  
16   override def add(v: String): Unit = {
17     _logArray.add(v)
18   }
19  
20   override def merge(other: AccumulatorV2[String, java.util.Set[String]]): Unit = {
21     other match {
22       case o: LogAccumulator => _logArray.addAll(o.value)
23     }
24  
25   }
26  
27   override def value: java.util.Set[String] = {
28     java.util.Collections.unmodifiableSet(_logArray)
29   }
30  
31   override def copy(): AccumulatorV2[String, util.Set[String]] = {
32     val newAcc = new LogAccumulator()
33     _logArray.synchronized{
34       newAcc._logArray.addAll(_logArray)
35     }
36     newAcc
37   }
38 }

本例中利用自定义的收集器收集过滤操作中被过滤掉的元素，当然这部分的元素的数据量不能太大。运行结果如下：

sum; 32
7cd 4b 2a