---------------------------------------------------------------------------------------
1、scala编程语言
2、Spark Core ： Spark内核 ，最重要的一个部分。
3、Spark SQL : 类似于 hive 和 pig。数据分析引擎。sql语句提交到spark集群中运行。
4、Spark Streaming ：类似于 storm，用于流式计算、实时计算。本质：一个离线计算。
------------------------------Scala编程语言---------------------------------------------
---------------Scala基础--------------------------
一、scala简介
1、scala是一个多范式的编程语言（支持多种方式的编程）
（1）使用面向对象编程：封装、继承、多态
（2）使用函数式编程：最大的特定
（*）优点：代码非常简洁
（*）缺点：可读性太差，尤其是隐式类、隐式函数、隐式参数
2、安装和配置scala
（*）基于JDK，先安装JDK
（*）scala：2.11.8（spark 2.1.0）
（*）配置环境变量：SCALA_HOME
（*）%SCALA_HOME%\bin 配置到path中
下载地址：https://www.scala-lang.org
文档地址：https://www.scala-lang.org/api/2.11.8/#scala.math.package
（*）开发环境
（1）REPL命令行
（2）IDEA ： 需要安装scala插件。
二、Scala中的数据类型和变量常量
1、注意一点：scala中所有的数据，都是对象。
举例：1 java int 。在scala中，1 就是一个对象。
2、基本数据类型
Byte 8位有符号数字
Short 16位有符号数字
Int ...
Long
Float
Double
字符串类型
String
字符
Char
scala中字符串的插值操作：就是相当于字符串的拼接
scala> var s1 : String = "Hello "
s1: String = "Hello "
scala> "My name is Tom and ${s1}"
res1: String = My name is Tom and ${s1}
插值操作时，需要加入 s
scala> s"My name is Tom and ${s1}"
res2: String = "My name is Tom and Hello "
3、变量var和常量val
scala> val s2 :String = "Hello all"
s2: String = Hello all
scala> s2 = "Hello everyone"
<console>:12: error: reassignment to val
s2 = "Hello everyone"
4、Unit类型和Nothing类型
（1）Unit类型，就是java中的void，没有返回值
scala> val f = ()
f: Unit = ()
返回值 Unit类型
() 代表了一个函数，这个函数没有返回值
（2）Nothing类型，在执行过程中，产生了异常Exception
举例：
scala函数：scala中函数非常重要，是scala的头等公民
用法很多：函数式编程、高阶函数
def myFunction = 函数的实现
scala> def myFun = throw new Exception("Some Error")
myFun: Nothing
三、函数：头等公民
（一）scala内置函数，可以直接使用的函数
scala> max(1,2)
<console>:12: error: not found: value max
max(1,2)
^
scala> import scala.math
final package math
scala> import scala.math._
import scala.math._
_ 就相当于java中的 * 代表包内所有东西
scala> max(1,2)
res4: Int = 2
res4: Int = 2
定义了一个变量 res4 ，接收了 max 函数的返回值。scala中支持类型的推导。
res4 = ""
（二） 自定义函数
语法：
def 函数名称（[参数名称：参数类型]*） : 返回值类型 = {
函数的实现
}
举例：
1、求和
scala> def sum(x:Int,y:Int):Int = x + y
sum: (x: Int, y: Int)Int
scala> sum(1,2)
res5: Int = 3
2、求阶乘，5！= 5 * 4* 3 *2* 1
递归
scala> def myFactor(x:Int):Int = {
| if(x<=1)
| 1
| else
| x*myFactor(x-1)
| }
myFactor: (x: Int)Int
scala> myFactor(5)
res6: Int = 120
注意：没有return语句。
函数的最后一句话，就是函数的返回值。
3、求输入的年份是否是闰年
闰年：
普通闰年：可以被4整除但是不能被100整除的年份
世纪闰年：可以被400整除的年份
scala> def isLeapYear(x:Int) = {
| if(( x%4 == 0 && x%100 != 0) || (x%400==0)) true
| else false
| }
isLeapYear: (x: Int)Boolean
scala> isLeapYear(2019)
res7: Boolean = false
scala> isLeapYear(2008)
res8: Boolean = true
1、( x%4 == 0 && x%100 != 0) || (x%400==0)
2、函数定义的时候，可以不写返回值，因为scala支持类型推导
四、循环语句
1、类似于java的用法 while dowhile for
2、foreach循环（Spark算子）
讲义在代码中
五、scala的函数参数
1、函数参数的求值策略
（1）call by value :
对函数的实参求值，并且只求一次
（2）call by name : =>
函数实参在函数体内部用到的时候，才会被求值
举例：
scala> def test1(x:Int,y:Int) = x + x
test1: (x: Int, y: Int)Int
scala> test1(3+4,8)
res9: Int = 14
scala> def test2(x : => Int,y : => Int) = x+x
test2: (x: => Int, y: => Int)Int
scala> test2(3+4,8)
res10: Int = 14
执行过程对比：
test1 ---> test1(3+4,8) ---> test1(7,8) ---> 7+7 ---> 14
test2 ---> test2(3+4,8) ---> (3+4) + (3+4) ---> 14
（3）复杂的例子
def bar(x:Int,y : => Int) : Int = 1
x 是 value y 是 name
定义一个死循环：
def loop() : Int = loop
调用bar函数的时候：
1、bar(1,loop)
2、bar(loop,1)
哪个方式会产生死循环？
scala> def bar(x:Int,y : => Int) : Int = 1
bar: (x: Int, y: => Int)Int
scala> def loop() : Int = loop
loop: ()Int
scala> bar(1,loop)
res11: Int = 1
scala> bar(loop,1)
解析：
1、虽然 y 是 name, 每次调用的时候会被求值。但是，函数体内，没有调用到y.
2、x 是 value，对函数参数求值，并且只求一次。虽然后面没有用到x，但求值时产生了死循环。
2、scala中函数参数的类型
（1）默认参数
当你没有给参数值赋值的时候，就会使用默认值。
def fun1(name:String="Tom") :String = "Hello " + name
scala> def fun1(name:String="Tom") :String = "Hello " + name
fun1: (name: String)String
scala> fun1("Andy")
res0: String = Hello Andy
scala> fun1()
res1: String = Hello Tom
（2）代名参数
当有多个默认参数的时候，通过代名参数可以确定给哪个函数参数赋值。
def fun2(str:String = "Hello " , name:String = " Tom " ,age:Int = 20) = str + name + " age is " +age
scala> def fun2(str:String = "Hello " , name:String = " Tom " ,age:Int = 20) = str + name + " age is " +age
fun2: (str: String, name: String, age: Int)String
scala> fun2()
res2: String = Hello Tom age is 20
scala> fun2("Andy")
res3: String = Andy Tom age is 20
scala> fun2(name="Andy")
res4: String = Hello Andy age is 20
（3）可变参数
类似于java中的可变参数，即 参数数量不固定。
scala> def sum(args:Int*)= {
| var result = 0
| for(s<-args) result +=s
| result
| }
sum: (args: Int*)Int
scala> sum(1,2,3,4)
res5: Int = 10
scala> sum(1,2,3,4,3,4)
res6: Int = 17
六、懒值（lazy）
铺垫：Spark的核心是 RDD（数据集合），操作数据集合的数据，使用算子来操作RDD（函数、方法）
算子：
Transformation ： 延时加载，不会触发计算
Action ： 会立刻触发计算。
定义：常量如果是lazy的，他的初始化会被延迟，推迟到第一次使用该常量的时候。
举例：
scala> var x : Int = 10
x: Int = 10
scala> val y : Int = x+1
y: Int = 11
y 的值是x+1 定义后会立即进行计算
scala> lazy val z : Int = x+1
z: Int = <lazy>
z的初始化会被延迟
scala> z
res0: Int = 11
当我们第一次使用z的时候，才会触发计算
读文件：
scala> val words = scala.io.Source.fromFile("H:\\tmp_files\\student.txt").mkString
words: String =
1 Tom 12
2 Mary 13
3 Lily 15
scala> lazy val words = scala.io.Source.fromFile("H:\\tmp_files\\student.txt").mkString
words: String = <lazy>
scala> words
res1: String =
1 Tom 12
2 Mary 13
3 Lily 15
scala> lazy val words = scala.io.Source.fromFile("H:\\tmp_files\\student123123121.txt").mkString
words: String = <lazy>
定义成lazy后，初始化被延迟，所以不会抛异常
scala> val words = scala.io.Source.fromFile("H:\\tmp_files\\student123123121.txt").mkString
java.io.FileNotFoundException: H:\tmp_files\student123123121.txt (系统找不到指定的文件。)
at java.io.FileInputStream.open0(Native Method)
at java.io.FileInputStream.open(FileInputStream.java:195)
at java.io.FileInputStream.<init>(FileInputStream.java:138)
at scala.io.Source$.fromFile(Source.scala:91)
at scala.io.Source$.fromFile(Source.scala:76)
at scala.io.Source$.fromFile(Source.scala:54)
... 32 elided
七、例外：Exception
类似于java
还是有一些变化
文件操作：
scala> val words = scala.io.Source.fromFile("H:\\tmp_files\\student.txt").mkString
words: String =
1 Tom 12
2 Mary 13
3 Lily 15
scala> val words = scala.io.Source.fromFile("H:\\tmp_files\\student1231312312312.txt").mkString
java.io.FileNotFoundException: H:\tmp_files\student1231312312312.txt (系统找不到指定的文件。)
at java.io.FileInputStream.open0(Native Method)
at java.io.FileInputStream.open(FileInputStream.java:195)
at java.io.FileInputStream.<init>(FileInputStream.java:138)
at scala.io.Source$.fromFile(Source.scala:91)
at scala.io.Source$.fromFile(Source.scala:76)
at scala.io.Source$.fromFile(Source.scala:54)
... 32 elided
见代码
八、数组
1、数组的类型
（1）定长数组：Array
scala> val a = new Array[Int](10) -----> (10) 就是数组的长度
a: Array[Int] = Array(0, 0, 0, 0, 0, 0, 0, 0, 0, 0)
scala> val a = new Array[String](10)
a: Array[String] = Array(null, null, null, null, null, null, null, null, null, null)
初始化赋给默认值
scala> val c : Array[String] = Array("Tom","Lily")
c: Array[String] = Array(Tom, Lily)
scala> val c : Array[String] = Array("Tom","Lily",1)
<console>:11: error: type mismatch;
found : Int(1)
required: String
val c : Array[String] = Array("Tom","Lily",1)
不能往数组中添加不同类型的元素
（2）变长数组：ArrayBuffer
scala> val d = ArrayBuffer[Int]()
<console>:11: error: not found: value ArrayBuffer
val d = ArrayBuffer[Int]()
^
scala> import scala.collection.mutable._
import scala.collection.mutable._
scala> val d = ArrayBuffer[Int]()
d: scala.collection.mutable.ArrayBuffer[Int] = ArrayBuffer()
scala> d += 1
res2: d.type = ArrayBuffer(1)
scala> d += 2
res3: d.type = ArrayBuffer(1, 2)
scala> d += (1,2,3,4)
res4: d.type = ArrayBuffer(1, 2, 1, 2, 3, 4)
scala> d.
++ combinations groupBy mapResult reverse to
++: companion grouped max reverseIterator toArray
++= compose hasDefiniteSize maxBy reverseMap toBuffer
++=: contains hashCode min runWith toIndexedSeq
+: containsSlice head minBy sameElements toIterable
+= copyToArray headOption mkString scan toIterator
+=: copyToBuffer indexOf nonEmpty scanLeft toList
- corresponds indexOfSlice orElse scanRight toMap
-- count indexWhere padTo segmentLength toSeq
--= diff indices par seq toSet
-= distinct init partition size toStream
/: drop inits patch sizeHint toString
:+ dropRight insert permutations sizeHintBounded toTraversable
:\ dropWhile insertAll prefixLength slice toVector
<< endsWith intersect prepend sliding transform
WithFilter equals isDefinedAt prependAll sortBy transpose
addString exists isEmpty product sortWith trimEnd
aggregate filter isTraversableAgain readOnly sorted trimStart
andThen filterNot iterator reduce span union
append find last reduceLeft splitAt unzip
appendAll flatMap lastIndexOf reduceLeftOption startsWith unzip3
apply flatten lastIndexOfSlice reduceOption stringPrefix update
applyOrElse fold lastIndexWhere reduceRight sum updated
canEqual foldLeft lastOption reduceRightOption tail view
clear foldRight length reduceToSize tails withFilter
clone forall lengthCompare remove take zip
collect foreach lift repr takeRight zipAll
collectFirst genericBuilder map result takeWhile zipWithIndex
举例：去掉数组中，最后两个元素
scala> d
res5: scala.collection.mutable.ArrayBuffer[Int] = ArrayBuffer(1, 2, 1, 2, 3, 4)
scala> d.trimEnd(2)
scala> d
res7: scala.collection.mutable.ArrayBuffer[Int] = ArrayBuffer(1, 2, 1, 2)
遍历数组：
for循环、foreach：
scala> var a = Array("Tom","Lily","Andy")
a: Array[String] = Array(Tom, Lily, Andy)
scala> for(s <- a ) println(s)
Tom
Lily
Andy
scala> a.foreach(println)
Tom
Lily
Andy
数组的常见操作举例：
scala> val myarray = Array(1,2,7,8,10,3,6)
myarray: Array[Int] = Array(1, 2, 7, 8, 10, 3, 6)
scala> myarray.max
res10: Int = 10
scala> myarray.min
res11: Int = 1
scala> myarray.sortWith(_>_)
res12: Array[Int] = Array(10, 8, 7, 6, 3, 2, 1)
scala> myarray.sortWith(_<_)
res13: Array[Int] = Array(1, 2, 3, 6, 7, 8, 10)
解释：(_>_)
完整 ： sortWith函数里面，参数也是一个函数 --> 高阶函数
_>_ 函数
def comp(a:Int,b:Int) = {if(a>b) true else false}
(a,b) => {if(a>b) true else false}
(a,b) => {if(a>b) true else false} ----> _>_
_>_ 是一个函数，传入两个参数，返回值是bool
2、多维数组
和java类似，通过数组的数组来实现
scala> var matrix = Array.ofDim[Int](3,4)
matrix: Array[Array[Int]] = Array(Array(0, 0, 0, 0), Array(0, 0, 0, 0), Array(0, 0, 0, 0))
Array(0, 0, 0, 0)
Array(0, 0, 0, 0)
Array(0, 0, 0, 0)
三行四列的数组
scala> matrix(1)(2)=10
scala> matrix
res15: Array[Array[Int]] = Array(Array(0, 0, 0, 0), Array(0, 0, 10, 0), Array(0, 0, 0, 0))
数组下标是从0开始的
例子：
定义一个二维数组，其中每个元素是一个一维数组，并且长度不固定
scala> var triangle = new Array[Array[Int]](10)
triangle: Array[Array[Int]] = Array(null, null, null, null, null, null, null, null, null, null)
初始化：
scala> for(i <- 0 until triangle.length){
| triangle(i) = new Array[Int](i+1)
| }
scala> triangle
res17: Array[Array[Int]] = Array(Array(0), Array(0, 0), Array(0, 0, 0),
Array(0, 0, 0, 0), Array(0, 0, 0, 0, 0), Array(0, 0, 0, 0, 0, 0),
Array(0, 0, 0, 0, 0, 0, 0), Array(0, 0, 0, 0, 0, 0, 0, 0),
Array(0, 0, 0, 0, 0, 0, 0, 0, 0), Array(0, 0, 0, 0, 0, 0, 0, 0, 0, 0))
二维数组，如果使用 Array[Array[Int]](10) 声明时：
1、首先指定的是外层数据的长度
2、初始化内层数组的时候，再指定内层数组的长度
九、映射 <key,value> Map
举例：
创建一个map，来保存学生的成绩
scala> val scores = Map("Tom" -> 80,"Andy"->70,"Mike"->90)
scores: scala.collection.mutable.Map[String,Int] = Map(Mike -> 90, Tom -> 80, Andy -> 70)
1、Map[String,Int] key String value Int
2、scala.collection.mutable
scala中，映射是有两种，一种是可变map，一种是不可变map
scala.collection.mutable ---> 可变
scala.collection.immutable ---> 不可变
scala> val scores2 = scala.collection.immutable.Map("Tom" -> 80,"Andy"->70,"Mike"->90)
scores2: scala.collection.immutable.Map[String,Int] = Map(Tom -> 80, Andy -> 70, Mike -> 90)
映射的初始化：
scala> val scores2 = scala.collection.mutable.Map(("Tom",80),("Andy",70))
scores2: scala.collection.mutable.Map[String,Int] = Map(Tom -> 80, Andy -> 70)
scala> scores2=1
<console>:15: error: reassignment to val
scores2=1
映射的操作：
1、获取映射中的值
scala> val chinese = scala.collection.mutable.Map(("Tom",80),("Andy",70))
chinese: scala.collection.mutable.Map[String,Int] = Map(Tom -> 80, Andy -> 70)
scala> chinese("Tom")
res18: Int = 80
scala> chinese.get("Andy")
res19: Option[Int] = Some(70)
scala> chinese("aaaa")
java.util.NoSuchElementException: key not found: aaaa
at scala.collection.MapLike$class.default(MapLike.scala:228)
at scala.collection.AbstractMap.default(Map.scala:59)
at scala.collection.mutable.HashMap.apply(HashMap.scala:65)
... 32 elided
scala> chinese.get("Andy1231312")
res21: Option[Int] = None
chinese("aaaa") get("Andy1231312")
需求：判断key是否存在，若不存在，返回默认值
scala> if(chinese.contains("aaa")){
| chinese("aaa")
| }else{
| -1
| }
res22: Int = -1
scala> chinese.getOrElse("aaaa",-1)
res23: Int = -1
2、更新映射中的值
注意：必须是可变映射
scala> chinese
res24: scala.collection.mutable.Map[String,Int] = Map(Tom -> 80, Andy -> 70)
scala> chinese("Andy")=20
scala> chinese
res26: scala.collection.mutable.Map[String,Int] = Map(Tom -> 80, Andy -> 20)
3、映射的迭代
for foreach
scala> chinese
res27: scala.collection.mutable.Map[String,Int] = Map(Tom -> 80, Andy -> 20)
scala> for(s<-chinese) println(s)
(Tom,80)
(Andy,20)
scala> chinese.foreach(println)
(Tom,80)
(Andy,20)
foreach 高阶函数
十、元组 : Tuple
scala 中的tuple ： 是不同类型值的集合
scala> val t1 = Tuple("Tom","Lily",1)
<console>:14: error: not found: value Tuple
val t1 = Tuple("Tom","Lily",1)
^
scala> val t1 = Tuple3("Tom","Lily",1)
t1: (String, String, Int) = (Tom,Lily,1)
Tuple3 代表 Tuple中有三个元素
scala> val t1 = Tuple2("Lily",1)
t1: (String, Int) = (Lily,1)
scala> val t2 = (1,2,4,"Hello")
t2: (Int, Int, Int, String) = (1,2,4,Hello)
tuple操作：
访问tuple中的元素
scala> val t1 = Tuple3("Tom","Lily",1)
t1: (String, String, Int) = (Tom,Lily,1)
scala> t1.
_1 _3 copy hashCode productArity productIterator toString zipped
_2 canEqual equals invert productElement productPrefix x
scala> t1._1
res30: String = Tom
scala> t1._3
res31: Int = 1
如何遍历Tuple中的元素
注意：Tuple并没有提供一个foreach函数，我们使用productIterator
遍历分为两步：
1、使用 productIterator 生成一个迭代器
2、遍历
scala> t1.productIterator.
!= copyToBuffer forall min reduceRightOption toIterable
## corresponds foreach minBy sameElements toIterator
+ count formatted mkString scanLeft toList
++ drop getClass ne scanRight toMap
-> dropWhile grouped next seq toSeq
/: duplicate hasDefiniteSize nonEmpty size toSet
:\ ensuring hasNext notify slice toStream
== eq hashCode notifyAll sliding toString
GroupedIterator equals indexOf padTo span toTraversable
addString exists indexWhere partition sum toVector
aggregate filter isEmpty patch synchronized wait
asInstanceOf filterNot isInstanceOf product take withFilter
buffered find isTraversableAgain reduce takeWhile zip
collect flatMap length reduceLeft to zipAll
collectFirst fold map reduceLeftOption toArray zipWithIndex
contains foldLeft max reduceOption toBuffer →
copyToArray foldRight maxBy reduceRight toIndexedSeq
scala> t1.productIterator.foreach(println)
Tom
Lily
1
十一、scala中的文件操作
类似于java的io
举例：
1、读取文件
2、读取二进制文件
3、从url中获取信息
4、写入文件
5、scala中调用java的类库
见代码
---------------Scala面向对象--------------------------
scala是一个多范式的编程语言（支持多种方式的编程）
类似于java 有区别
一、面向对象的概念
1、封装 ： 把属性和操作属性的方法，写在了一起。class
2、继承
3、多态
java中面向对象的概念，也是用与scala
二、定义类：class
举例：创建一个学生类
三、内部类（嵌套类）：在一个类的内部，定义了另外一个类
见代码
四、类的构造器：两种
1、主构造器 ： 和类的声明在一起，并且一个类只能有一个主构造器
class Course(var courseName:String,var grade : Int)
2、辅助构造器 ： 一个类可以有多个辅助构造器，通过this来实现
五、object对象：相当于java中的static
1、Object 对象中的内容都是静态的
2、如果和类名相同，则成为伴生对象
3、scala中没有static关键字
4、举例
（1）使用object来实现单例模式：一个类里面只有一个对象
在java中，把类的构造器定义成private的，并且提供一个getInstance,返回对象
在scala中，使用object实现
（2）使用App对象：应用程序对象。
好处：可以省略main方法。
六、apply方法
val t1 = Tuple3("Tom","Lily",1)
没有new关键字，但是也创建出来对象，用了apply方法
注意：apply方法必须写在伴生对象中。
七、继承
1、extends 和java一样
object HelloWorld extends App
2、抽象类：代码中
抽象字段：
package day0323
/**
* Created by root on 2019/3/23.
*
* 抽象字段 抽象属性
*
* 定义： 没有初始值的字段
*/
abstract class Person1{
//定义抽象字段
val id :Int
val name : String
}
如果不加abstract 报错
abstract class Employee1 extends Person1{
}
下面两种方式均不会报错
class Employee2() extends Person1{
val id :Int = 1
val name : String = ""
}
class Employee2(val id:Int,val name:String) extends Person1{
}
object Demo3 {
}