SparkSql, SparkCore guardan datos en una base de datos relacional

Después del análisis de datos, definitivamente se implementará. Generalmente, se perderá en hdfs, o una base de datos relacional común. Aquí, usaré mysql para contarles sobre esto.

sql es realmente fácil de operar, solo llame al método

    val prop=new java.util.Properties()
    prop.put("driver","com.mysql.jdbc.Driver")
    prop.put("user","root")
    prop.put("password","root")

	resultDF.write.jdbc("jdbc:mysql://localhost:3306/test?createDatabaseIfNotExist=true&characterEncoding=UTF-8","student",prop)

Si está utilizando Core, llame a foreachRDD para escribir jdbc está bien, el siguiente es un ejemplo de cómo guardo el recuento de palabras

tuple.foreachRDD(rdd=>{
    
    
      rdd.foreach(word=>{
    
    
        Class.forName("com.mysql.jdbc.Driver")
        //获取mysql连接
        val conn = DriverManager.getConnection("jdbc:mysql://localhost:3306/test", "root", "")
        //把数据写入mysql
        try {
    
    
          var totalcount = word._2
          var sql = "";
          var querysql="select count from wordcount where titleName='"+word._1+"'"
          val queryresult: ResultSet = conn.prepareStatement(querysql).executeQuery()
          //存在更新，不存在添加
          if(queryresult.next()){
    
    
            totalcount = queryresult.getString("count").toInt+word._2
            sql = "update wordcount set count='"+totalcount+"' where titleName='"+word._1+"'"
          }else{
    
    
            sql = "insert into wordcount (titleName,count) values ('" + word._1 + "','" + totalcount + "')"
          }

          conn.prepareStatement(sql).executeUpdate()
          println("保存结束--------------------------------------------------------------")
        } finally {
    
    
          conn.close()
        }
      })
    })