本章介绍前几章没有提及的 Spark 编程的各种进阶特性，会介绍两种类型的共享变量: 累加器(accumulator)与广播变量(broadcast variable)。累加器用来对信息进行聚合，而 广播变量用来高效分发较大的对象。在已有的 RDD 转化操作的基础上，我们为类似查询 数据库这样需要很大配置代价的任务引入了批操作。为了扩展可用的工具范围，本章会介 绍 Spark 与外部程序交互的方式，比如如何与用 R 语言编写的脚本进行交互。
1.累加器
Spark 提供两个共享变量，累加器与广 播变量，分别为结果聚合与广播这两种常见的通信模式突破了这一限制。
第一种共享变量，即累加器。 累加器用来对信息进行聚合，通常在向 Spark 传递函数时，比如使用 map() 函数或者用 filter() 传条件时，可以使用驱 动器程序中定义的变量，但是集群中运行的每个任务都会得到这些变量的一份新的副本， 更新这些副本的值也不会影响驱动器中的对应变量。 如果我们想实现所有分片处理时更新共享变量的功能，那么累加器可以实现我们想要的效果。
针对一个输入的日志文件，如果我们想计算文件中所有空行的数量，我们可以编写以下程序：
scala> val notice = sc.textFile("./NOTICE")
notice: org.apache.spark.rdd.RDD[String] = ./NOTICE MapPartitionsRDD[40] at textFile at <console>:32
scala> val blanklines = sc.accumulator(0)
warning: there were two deprecation warnings; re-run with -deprecation for details
blanklines: org.apache.spark.Accumulator[Int] = 0
scala> val tmp = notice.flatMap(line => {
| if (line == "") {
| blanklines += 1
| }
| line.split(" ")
| })
tmp: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[41] at flatMap at <console>:36
scala> tmp.count()
res31: Long = 3213
scala> blanklines.value
res32: Int = 171累加器的用法如下所示。
• 通过在驱动器中调用SparkContext.accumulator(initialValue)方法，创建出存有初始值的累加器。返回值为 org.apache.spark.Accumulator[T] 对象，其中 T 是初始值 initialValue 的类型。
• Spark闭包里的执行器代码可以使用累加器的 += 方法(在Java中是 add)增加累加器的值。
• 驱动器程序可以调用累加器的value属性(在Java中使用value()或setValue())来访问累加器的值。
注意：工作节点上的任务不能访问累加器的值。从这些任务的角度来看，累加器是一个只写变量。
• 对于要在行动操作中使用的累加器，Spark只会把每个任务对各累加器的修改应用一次。因此，如果想要一个无论在失败还是重复计 算时都绝对可靠的累加器，我们必须把它放在 foreach() 这样的行动操作中。转化操作中累加器可 能会发生不止一次更新。
2.自定义累加器的实现
自定义累加器类型的功能在1.X版本中就已经提供了，但是使用起来比较麻烦，在2.0版本后，累加器的易用性有了较大的改进，而且官方还提供了一个新的抽象类：AccumulatorV2来提供更加友好的自定义类型累加器的实现方式。实现自定义类型累加器需要继承AccumulatorV2并至少覆写下例中出现的方法，下面这个累加器可以用于在程序运行过程中收集一些文本类信息，最终以Set[String]的形式返回。
package com.luomk.sql
import java.util
import org.apache.spark.util.AccumulatorV2
import org.apache.spark.{SparkConf, SparkContext}
/**
* @author luomingkui
* @date 2018/6/15 下午9:33
* @desc
* 自定义累加器练习
*/
class CustomAccu extends AccumulatorV2[String,java.util.Set[String]]{
private val _logArray:java.util.Set[String] = new util.HashSet[String]()
//分区中的暂存变量是否为空
override def isZero: Boolean = {
_logArray.isEmpty
}
//复制一个对象
override def copy(): AccumulatorV2[String, util.Set[String]] = {
val newAcc = new CustomAccu()
_logArray.synchronized{
newAcc._logArray.addAll(_logArray)
}
newAcc
}
//重启你的对象状态
override def reset(): Unit = {
_logArray.clear()
}
//在分区内增加数据
override def add(v: String): Unit = {
_logArray.add(v)
}
//将多个分区的累加器相加
override def merge(other: AccumulatorV2[String, util.Set[String]]): Unit = {
other match {
case o:CustomAccu => _logArray.addAll(o.value)
}
}
//读取最终的值
override def value: util.Set[String] = {
_logArray
}
}
object LogAccu{
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setAppName("accu").setMaster("local[*]")
val sc = new SparkContext(conf)
//创建一个累加器实例
val accu = new CustomAccu
//注册实例
sc.register(accu,"accu")
val rdd = sc.makeRDD(Array("1","2","3a","4a","5a","6","7"))
rdd.filter{ line =>
if(line.endsWith("a")){
accu.add(line)
}
true
}.collect()
println(rdd)
accu.value
sc.stop()
}
}3. 广播变量
广播变量用来高效分发较大的对象。向所有工作节点发送一个较大的只读值，以供一个或多个 Spark 操作使用。比如，如果你的应用需要向所有节点发送一个较大的只读查询表，甚至是机器学习算法中的一个很大的特征向量，广播变量用起来都很顺手。
传统方式下，Spark 会自动把闭包中所有引用到的变量发送到工作节点上。虽然这很方便，但也很低效。原因有二:首先，默认的任务发射机制是专门为小任务进行优化的；其次，事实上你可能会在多个并行操作中使用同一个变量，但是 Spark会为每个任务分别发送。
scala> val broadcastVar = sc.broadcast(Array(1, 2, 3))
broadcastVar: org.apache.spark.broadcast.Broadcast[Array[Int]] = Broadcast(35)
scala> broadcastVar.value
res33: Array[Int] = Array(1, 2, 3)使用广播变量的过程如下：
• 通过对一个类型 T 的对象调用 SparkContext.broadcast 创建出一个 Broadcast[T] 对象。 任何可序列化的类型都可以这么实现。
• 通过 value 属性访问该对象的值(在 Java 中为 value() 方法)。
• 变量只会被发到各个节点一次，应作为只读值处理(修改这个值不会影响到别的节点)。