大数据Spark学习之旅第一篇

编程语言 2021-12-02 14:13:03 阅读次数: 0

「这是我参与11月更文挑战的第31天，活动详情查看：2021最后一次更文挑战」。

一、Spark 概述

1.1、Spark 是什么

image.png

Spark 是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。

1.2、Spark and Hadoop

在之前的学习中，Hadoop 的 MapReduce 是大家广为熟知的计算框架，那为什么咱们还要学习新的计算框架 Spark 呢，这里就不得不提到 Spark 和 Hadoop 的关系。

首先从时间节点上来看:

  1. Hadoop

    • 2006 年 1 月，Doug Cutting 加入 Yahoo，领导 Hadoop 的开发
    • 2008 年 1 月，Hadoop 成为 Apache 顶级项目
    • 2011 年 1.0 正式发布
    • 2012 年 3 月稳定版发布
    • 2013 年 10 月发布 2.X (Yarn)版本

  2. Spark

    • 2009 年，Spark 诞生于伯克利大学的 AMPLab 实验室
    • 2010 年，伯克利大学正式开源了 Spark 项目
    • 2013 年 6 月，Spark 成为了 Apache 基金会下的项目
    • 2014 年 2 月，Spark 以飞快的速度成为了 Apache 的顶级项目
    • 2015 年至今，Spark 变得愈发火爆，大量的国内公司开始重点部署或者使用 Spark

然后我们再从功能上来看:

  1. Hadoop

    • Hadoop 是由java 语言编写的，在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架
    • 作为 Hadoop 分布式文件系统，HDFS 处于 Hadoop 生态圈的最下层，存储着所有的 数 据 ， 支持着Hadoop的所有服务 。 它的理论基础源于Google 的TheGoogleFileSystem 这篇论文，它是 GFS 的开源实现。
    • MapReduce 是一种编程模型，Hadoop 根据 Google 的 MapReduce 论文将其实现，作为 Hadoop 的分布式计算模型，是 Hadoop 的核心。基于这个框架，分布式并行程序的编写变得异常简单。综合了 HDFS 的分布式存储和 MapReduce 的分布式计算，Hadoop 在处理海量数据时，性能横向扩展变得非常容易。
    • HBase 是对 Google 的 Bigtable 的开源实现，但又和 Bigtable 存在许多不同之处。HBase 是一个基于 HDFS 的分布式数据库，擅长实时地随机读/写超大规模数据集。它也是 Hadoop 非常重要的组件。

  2. Spark

    • Spark 是一种由 Scala 语言开发的快速、通用、可扩展的大数据分析引擎
    • Spark Core 中提供了 Spark 最基础与最核心的功能
    • Spark SQL 是 Spark 用来操作结构化数据的组件。通过 Spark SQL，用户可以使用SQL 或者 Apache Hive 版本的 SQL 方言（HQL）来查询数据。
    • Spark Streaming 是 Spark 平台上针对实时数据进行流式计算的组件，提供了丰富的处理数据流的 API。

由上面的信息可以获知，Spark 出现的时间相对较晚，并且主要功能主要是用于数据计算，所以其实 Spark 一直被认为是 Hadoop 框架的升级版。

1.3、Spark or Hadoop

Hadoop 的 MR 框架和 Spark 框架都是数据处理框架，那么我们在使用时如何选择呢？

  • Hadoop MapReduce 由于其设计初衷并不是为了满足循环迭代式数据流处理，因此在多并行运行的数据可复用场景（如：机器学习、图挖掘算法、交互式数据挖掘算法）中存在诸多计算效率等问题。所以 Spark 应运而生，Spark 就是在传统的 MapReduce 计算框架的基础上，利用其计算过程的优化，从而大大加快了数据分析、挖掘的运行和读写速度，并将计算单元缩小到更适合并行计算和重复使用的 RDD 计算模型。

  • 机器学习中 ALS、凸优化梯度下降等。这些都需要基于数据集或者数据集的衍生数据反复查询反复操作。MR 这种模式不太合适，即使多 MR 串行处理，性能和时间也是一个问题。数据的共享依赖于磁盘。另外一种是交互式数据挖掘，MR 显然不擅长。而Spark 所基于的 scala 语言恰恰擅长函数的处理。

  • Spark 是一个分布式数据快速分析项目。它的核心技术是弹性分布式数据集（Resilient Distributed Datasets），提供了比 MapReduce 丰富的模型，可以快速在内存中对数据集进行多次迭代，来支持复杂的数据挖掘算法和图形计算算法。

  • Spark 和Hadoop 的根本差异是多个作业之间的数据通信问题 : Spark 多个作业之间数据通信是基于内存，而 Hadoop 是基于磁盘。

  • Spark Task 的启动时间快。Spark 采用 fork 线程的方式，而 Hadoop 采用创建新的进程的方式。

  • Spark 只有在 shuffle 的时候将数据写入磁盘，而 Hadoop 中多个 MR 作业之间的数据交互都要依赖于磁盘交互

  • Spark 的缓存机制比 HDFS 的缓存机制高效。

经过上面的比较，我们可以看出在绝大多数的数据计算场景中，Spark 确实会比 MapReduce更有优势。但是 Spark 是基于内存的，所以在实际的生产环境中，由于内存的限制，可能会由于内存资源不够导致 Job 执行失败，此时，MapReduce 其实是一个更好的选择，所以 Spark并不能完全替代 MR。

1.4、Spark 核心模块

image.png

  1. Spark Core

    Spark Core 中提供了 Spark 最基础与最核心的功能，Spark 其他的功能如：Spark SQL，Spark Streaming，GraphX, MLlib 都是在 Spark Core 的基础上进行扩展的

  2. Spark SQL

    Spark SQL 是 Spark 用来操作结构化数据的组件。通过 Spark SQL，用户可以使用 SQL或者 Apache Hive 版本的 SQL 方言（HQL）来查询数据。

  3. Spark Streaming

    Spark Streaming 是 Spark 平台上针对实时数据进行流式计算的组件，提供了丰富的处理数据流的 API。

  4. Spark MLlib

    MLlib 是 Spark 提供的一个机器学习算法库。MLlib 不仅提供了模型评估、数据导入等额外的功能，还提供了一些更底层的机器学习原语。

  5. Spark GraphX

    GraphX 是 Spark 面向图计算提供的框架与算法库。

二、Spark 快速上手

2.1、创建 Maven 项目

2.1.1、增加 Scala 插件

Spark 由 Scala 语言开发的，接下来的开发所使用的语言也为 Scala，咱们当前使用的 Spark 版本为 3.0.0，默认采用的 Scala 编译版本为 2.12，所以后续开发时。我们依然采用这个版本。开发前请保证 IDEA 开发工具中含有 Scala 开发插件

image.png

2.1.2、增加依赖关系

修改 Maven 项目中的 POM 文件，增加 Spark 框架的依赖关系。基于 Spark3.0 版本，使用时请注意对应版本。

<dependencies>
 <dependency>
 <groupId>org.apache.spark</groupId>
 <artifactId>spark-core_2.12</artifactId>
 <version>3.0.0</version>
 </dependency>
</dependencies>
复制代码

2.1.3、WordCount

为了能直观地感受 Spark 框架的效果，接下来我们实现一个大数据中最常见的案例 WordCount

    // 创建 Spark 运行配置对象
    val sparkConf = new SparkConf().setMaster("local[*]").setAppName("WordCount")
    // 创建 Spark 上下文环境对象（连接对象）
    val sc : SparkContext = new SparkContext(sparkConf)
    // 读取文件数据
    val fileRDD: RDD[String] = sc.textFile("input/word.txt")
    // 将文件中的数据进行分词
    val wordRDD: RDD[String] = fileRDD.flatMap( _.split(" ") )
    // 转换数据结构 word => (word, 1)
    val word2OneRDD: RDD[(String, Int)] = wordRDD.map((_,1))
    // 将转换结构后的数据按照相同的单词进行分组聚合
    val word2CountRDD: RDD[(String, Int)] = word2OneRDD.reduceByKey(_+_)
    // 将数据聚合结果采集到内存中
    val word2Count: Array[(String, Int)] = word2CountRDD.collect()
    // 打印结果
    word2Count.foreach(println)
    //关闭 Spark 连接
    sc.stop()
复制代码

执行过程中，会产生大量的执行日志，如果为了能够更好的查看程序的执行结果，可以在项目的 resources 目录中创建 log4j.properties 文件，并添加日志配置信息：

log4j.rootCategory=ERROR, console
log4j.appender.console=org.apache.log4j.ConsoleAppender
log4j.appender.console.target=System.err
log4j.appender.console.layout=org.apache.log4j.PatternLayout
log4j.appender.console.layout.ConversionPattern=%d{yy/MM/dd HH:mm:ss} %p %c{1}: %m%n

# Set the default spark-shell log level to ERROR. When running the spark-shell, the
# log level for this class is used to overwrite the root logger's log level, so that
# the user can have different defaults for the shell and regular Spark apps.
log4j.logger.org.apache.spark.repl.Main=ERROR

# Settings to quiet third party logs that are too verbose
log4j.logger.org.spark_project.jetty=ERROR
log4j.logger.org.spark_project.jetty.util.component.AbstractLifeCycle=ERROR
log4j.logger.org.apache.spark.repl.SparkIMain$exprTyper=ERROR
log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreter=ERROR
log4j.logger.org.apache.parquet=ERROR
log4j.logger.parquet=ERROR

# SPARK-9183: Settings to avoid annoying messages when looking up nonexistent UDFs in SparkSQL with Hive support
log4j.logger.org.apache.hadoop.hive.metastore.RetryingHMSHandler=FATAL
log4j.logger.org.apache.hadoop.hive.ql.exec.FunctionRegistry=ERROR
复制代码

三、Spark 运行环境

Spark 作为一个数据处理框架和计算引擎，被设计在所有常见的集群环境中运行, 在国内工作中主流的环境为 Yarn，不过逐渐容器式环境也慢慢流行起来。接下来，我们就分别看看不同环境下 Spark 的运行。

3.1、Local 模式

所谓的 Local 模式，就是不需要其他任何节点资源就可以在本地执行 Spark 代码的环境，一般用于教学，调试，演示等，之前在 IDEA 中运行代码的环境我们称之为开发环境，不太一样。

3.1.1、解压缩文件

将 spark-3.0.0-bin-hadoop3.2.tgz 文件上传到 Linux 并解压缩，放置在指定位置，路径中不要包含中文或空格。

tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module

cd /opt/module 

mv spark-3.0.0-bin-hadoop3.2 spark-local
复制代码

3.1.2、启动 Local 环境

  1. 进入解压缩后的路径，执行如下指令

    bin/spark-shell
复制代码

    image.png

  2. 启动成功后，可以输入网址进行 Web UI 监控页面访问

    http://虚拟机地址:4040
复制代码

    image.png

3.1.3、命令行工具

在解压缩文件夹下的 data 目录中，添加 word.txt 文件。在命令行工具中执行如下代码指令（和 IDEA 中代码简化版一致）

sc.textFile("data/word.txt").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).collect
复制代码

image.png

3.1.4、退出本地模式

按键 Ctrl+C 或输入 Scala 指令

:quit
复制代码

3.1.5、提交应用

bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master local[2] \
./examples/jars/spark-examples_2.12-3.0.0.jar \
10
复制代码
  1. --class 表示要执行程序的主类，此处可以更换为咱们自己写的应用程序
  2. --master local[2] 部署模式，默认为本地模式，数字表示分配的虚拟 CPU 核数量
  3. spark-examples_2.12-3.0.0.jar 运行的应用类所在的 jar 包，实际使用时，可以设定为咱们自己打的 jar 包
  4. 数字 10 表示程序的入口参数，用于设定当前应用的任务数量

image.png

3.2、Standalone 模式

local 本地模式毕竟只是用来进行练习演示的，真实工作中还是要将应用提交到对应的集群中去执行，这里我们来看看只使用 Spark 自身节点运行的集群模式，也就是我们所谓的独立部署（Standalone）模式。Spark 的 Standalone 模式体现了经典的 master-slave 模式。

集群规划:

hadoop2 hadoop3 hadoop4
Spark Worker Master Worker Worker

3.2.1、解压缩文件

将 spark-3.0.0-bin-hadoop3.2.tgz 文件上传到 Linux 并解压缩在指定位置

tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module

cd /opt/module

mv spark-3.0.0-bin-hadoop3.2 spark-standalone
复制代码

3.2.2、修改配置文件

  1. 进入解压缩后路径的 conf 目录，修改 slaves.template 文件名为 slaves

    mv slaves.template slaves
复制代码

  2. 修改 slaves 文件，添加 work 节点

    hadoop102
hadoop103
hadoop104
复制代码

  3. 修改 spark-env.sh.template 文件名为 spark-env.sh

    mv spark-env.sh.template spark-env.sh
复制代码

  4. 修改 spark-env.sh 文件，添加 JAVA_HOME 环境变量和集群对应的 master 节点

    export JAVA_HOME=/opt/module/jdk1.8.0_212
SPARK_MASTER_HOST=hadoop102
SPARK_MASTER_PORT=8020
复制代码

  5. 分发 spark-standalone 目录

    xsync spark-standalone
复制代码

3.2.3、启动集群

  1. 执行脚本命令：

    sbin/start-all.sh
复制代码

    image.png

  2. 查看三台服务器运行进程

    image.png

  3. 查看 Master 资源监控 Web UI 界面: http://hadoop102:8080

    image.png

3.2.4、提交应用

bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://hadoop102:8020 \
./examples/jars/spark-examples_2.12-3.0.0.jar \
10
复制代码

执行任务时，默认采用服务器集群节点的总核数，每个节点内存 1024M。

image.png

3.2.5、提交参数说明

在提交应用中，一般会同时一些提交参数

bin/spark-submit \
--class <main-class>
--master <master-url> \
... # other options
<application-jar> \
[application-arguments]
复制代码

image.png

3.2.6、配置历史服务

由于 spark-shell 停止掉后，集群监控 hadoop:4040 页面就看不到历史任务的运行情况，所以 开发时都配置历史服务器记录任务运行情况。

  1. 修改 spark-defaults.conf.template 文件名为 spark-defaults.conf

    mv spark-defaults.conf.template spark-defaults.conf
复制代码

  2. 修改 spark-default.conf 文件，配置日志存储路径

    spark.eventLog.enabled true
spark.eventLog.dir hdfs://hadoop102:8020/directory
复制代码

    注意：需要启动 hadoop 集群，HDFS 上的 directory 目录需要提前存在。

    sbin/start-dfs.sh

hadoop fs -mkdir /directory
复制代码

  3. 修改 spark-env.sh 文件, 添加日志配置

    export SPARK_HISTORY_OPTS="
-Dspark.history.ui.port=18080 
-Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/directory 
-Dspark.history.retainedApplications=30"
复制代码
    • 参数 1 含义：WEB UI 访问的端口号为 18080
    • 参数 2 含义：指定历史服务器日志存储路径
    • 参数 3 含义：指定保存 Application 历史记录的个数，如果超过这个值，旧的应用程序信息将被删除，这个是内存中的应用数，而不是页面上显示的应用数。

  4. 分发配置文件

    xsync conf
复制代码

  5. 重新启动集群和历史服务

    sbin/start-all.sh

sbin/start-history-server.sh
复制代码

  6. 重新执行任务

    bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://hadoop102:8020 \
./examples/jars/spark-examples_2.12-3.0.0.jar \
10
复制代码

  7. 查看历史服务：http://hadoop102:18080

    image.png

注意：此处的端口 8020 修改为了 7077，因为hadoop hdfs 默认通信端口为8020，防止端口冲突！！！

3.2.7、配置高可用（HA）

所谓的高可用是因为当前集群中的 Master 节点只有一个，所以会存在单点故障问题。所以为了解决单点故障问题，需要在集群中配置多个 Master 节点，一旦处于活动状态的 Master发生故障时，由备用 Master 提供服务，保证作业可以继续执行。这里的高可用一般采用Zookeeper 设置。

集群规划:

hadoop102 hadoop103 hadoop104
Spark Master Zookeeper Worker Master Zookeeper Worker Zookeeper Worker

  1. 停止集群

    sbin/stop-all.sh
sbin/stop-history-server.sh
复制代码

  2. 启动 Zookeeper

    [moe@hadoop102 spark-standalone]$ zk.sh start
复制代码

    image.png

  3. 修改 spark-env.sh 文件添加如下配置

    注释如下内容：
#SPARK_MASTER_HOST=hadoop102
#SPARK_MASTER_PORT=7077

#Master 监控页面默认访问端口为 8080，但是可能会和 Zookeeper 冲突，所以改成 8989，也可以自定义，访问 UI 监控页面时请注意
SPARK_MASTER_WEBUI_PORT=8989
export SPARK_DAEMON_JAVA_OPTS="
-Dspark.deploy.recoveryMode=ZOOKEEPER 
-Dspark.deploy.zookeeper.url=hadoop102,hadoop103,hadoop104
-Dspark.deploy.zookeeper.dir=/spark"
复制代码

    image.png

  4. 分发配置文件

    [moe@hadoop102 spark-standalone]$ xsync conf/
复制代码

  5. 启动集群

    sbin/start-all.sh
sbin/start-history-server.sh
复制代码

    image.png

  6. 启动 hadoop103 的单独 Master 节点，此时 hadoop103 节点 Master 状态处于备用状态

    [moe@hadoop103 spark-standalone]$ sbin/start-master.sh
复制代码

    image.png

  7. 提交应用到高可用集群

    bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://hadoop102:7077,hadoop103:7077 \
./examples/jars/spark-examples_2.12-3.0.0.jar \
10
复制代码

  8. 停止 hadoop102 的 Master 资源监控进程

    [moe@hadoop102 spark-standalone]$ kill -9 7479
复制代码

    image.png

  9. 查看 hadoop103 的 Master 资源监控 Web UI，稍等一段时间后，hadoop103 节点的 Master 状态提升为活动状态

    image.png

3.3、Yarn 模式

独立部署（Standalone）模式由 Spark 自身提供计算资源，无需其他框架提供资源。这种方式降低了和其他第三方资源框架的耦合性，独立性非常强。但是你也要记住，Spark 主要是计算框架，而不是资源调度框架，所以本身提供的资源调度并不是它的强项，所以还是和其他专业的资源调度框架集成会更靠谱一些。所以接下来我们来学习在强大的 Yarn 环境下 Spark 是如何工作的（其实是因为在国内工作中，Yarn 使用的非常多）。

3.3.1、解压缩文件

tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module

cd /opt/module

mv spark-3.0.0-bin-hadoop3.2 spark-yarn
复制代码

3.3.2、修改配置文件

  1. 修改 hadoop 配置文件/opt/module/hadoop/etc/hadoop/yarn-site.xml

    <!--是否启动一个线程检查每个任务正使用的物理内存量，如果任务超出分配值，则直接将其杀掉，默认是 true -->
<property>
        <name>yarn.nodemanager.pmem-check-enabled</name>
        <value>false</value>
</property>

<!--是否启动一个线程检查每个任务正使用的虚拟内存量，如果任务超出分配值，则直接将其杀掉，默认是 true -->
<property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
</property>
复制代码

    注意：分发

  2. 修改 conf/spark-env.sh，添加 JAVA_HOME 和 YARN_CONF_DIR 配置

    mv spark-env.sh.template spark-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_212
YARN_CONF_DIR=/opt/module/hadoop-3.1.3/etc/hadoop
复制代码

3.3.3、启动 HDFS 以及 YARN 集群

[moe@hadoop102 hadoop]$ myhadoop.sh start
复制代码

image.png

3.3.4、提交应用

bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode cluster \
./examples/jars/spark-examples_2.12-3.0.0.jar \
10
复制代码

image.png

查看 http://hadoop103:8088 页面，点击 History，查看历史页面

image.png

3.3.5、配置历史服务器

  1. 修改 spark-defaults.conf.template 文件名为 spark-defaults.conf

    mv spark-defaults.conf.template spark-defaults.conf
复制代码

  2. 修改 spark-default.conf 文件，配置日志存储路径

    spark.eventLog.enabled true
spark.eventLog.dir hdfs://hadoop102:8020/directory
复制代码

  3. 修改 spark-env.sh 文件, 添加日志配置

    export SPARK_HISTORY_OPTS="
-Dspark.history.ui.port=18080 
-Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/directory 
-Dspark.history.retainedApplications=30"
复制代码

  4. 修改 spark-defaults.conf

    spark.yarn.historyServer.address=hadoop102:18080
spark.history.ui.port=18080
复制代码

  5. 启动历史服务

    sbin/start-history-server.sh
复制代码

    如报错则创建目录即可！！！

    image.png

  6. 重新提交应用

    bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode client \
./examples/jars/spark-examples_2.12-3.0.0.jar \
10
复制代码

  7. Web 页面查看日志：http://hadoop102:8088

    image.png

3.4、K8S & Mesos 模式

Mesos 是 Apache 下的开源分布式资源管理框架，它被称为是分布式系统的内核,在Twitter 得到广泛使用,管理着 Twitter 超过 30,0000 台服务器上的应用部署，但是在国内，依然使用着传统的 Hadoop 大数据框架，所以国内使用 Mesos 框架的并不多，但是原理其实都差不多，这里我们就不做过多讲解了。

image.png

容器化部署是目前业界很流行的一项技术，基于 Docker 镜像运行能够让用户更加方便地对应用进行管理和运维。容器管理工具中最为流行的就是 Kubernetes（k8s），而 Spark也在最近的版本中支持了 k8s 部署模式。这里我们也不做过多的讲解。给个链接大家自己感受一下：spark.apache.org/docs/latest…

image.png

3.5、Windows 模式

自己学习时，每次都需要启动虚拟机，启动集群，这是一个比较繁琐的过程，并且会占大量的系统资源，导致系统执行变慢，不仅仅影响学习效果，也影响学习进度，Spark 非常暖心地提供了可以在 windows 系统下启动本地集群的方式，这样，在不使用虚拟机的情况下，也能学习 Spark 的基本使用，摸摸哒！

3.5.1、解压缩文件

将文件 spark-3.0.0-bin-hadoop3.2.tgz 解压缩到无中文无空格的路径中

3.5.2、启动本地环境

  1. 执行解压缩文件路径下 bin 目录中的 spark-shell.cmd 文件，启动 Spark 本地环境

  2. 在 bin 目录中创建 input 目录，并添加 word.txt 文件, 在命令行中输入脚本代码

    sc.textFile("input/word.txt").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).collect
复制代码

3.5.3、命令行提交应用

spark-submit --class org.apache.spark.examples.SparkPi --master local[2] ../examples/jars/spark-examples_2.12-3.0.0.jar 10
复制代码

3.6、部署模式对比

image.png

3.7、端口号

  • Spark 查看当前 Spark-shell 运行任务情况端口号：4040（计算）

  • Spark Master 内部通信服务端口号：7077

  • Standalone 模式下，Spark Master Web 端口号：8080（资源）

  • Spark 历史服务器端口号：18080

  • Hadoop YARN 任务运行情况查看端口号：8088

猜你喜欢

转载自juejin.im/post/7036721025186267172
今日推荐
富文本编辑器 Quill 2.0 重磅发布，特性、可靠性与开发者体验大幅提升
“开源信徒”周鸿祎开源360智脑大模型
周排行
Ubuntu 14.04 下Fuel6.0安装部署
香港一小巴侧翻致1死16伤 警方：未见机件故障
pikachu--XSS盲打
阅读 深入理解JVM虚拟机笔记一
java.sql.SQLException: ORA-00932: 数据类型不一致: 应为 -, 但却获得 CLOB
oracle delete all object under an user
[LeetCode]20 Valid Parentheses 有效的括号
树形DP求树的直径 【模板】
Context propagation over HTTP in Go
【PAT】（B）1053 住房空置率 (20)*
每日归档
更多
2024-04-18(0)
2024-04-17(5)
2024-04-16(70)
2024-04-15(42)
2024-04-14(0)
2024-04-13(119)
2024-04-12(38)
2024-04-11(14)
2024-04-10(68)
2024-04-09(5)

代码天地 © 2018 codetd.com

境外服务器   最新电视剧2022