Sqoop的安装

Sqoop 简介

Apache Sqoop(TM)是一种旨在有效地在 Apache Hadoop 和诸如关系数据库等结构化数据存
储之间传输大量数据的工具。
Sqoop 于 2012 年 3 月孵化出来,现在是一个顶级的 Apache 项目。
最新的稳定版本是 1.4.7。Sqoop2 的最新版本是 1.99.7。请注意,1.99.7 与 1.4.7 不兼容,且

没有特征不完整,它并不打算用于生产部署。

Sqoop  原理

将导入或导出命令翻译成 mapreduce 程序来实现。

在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。

Sqoop  安装

安装 Sqoop 的前提是已经具备 Java 和 Hadoop 的环境。

  1. 下载并解压
    a.下载地址,注意不要下载1.9X版本,此版本为测试版
    b.解压sqoop到指定路径 tar -zxf sqoop-xxxx.tar.gz -C ~/opt
  2. 修改配置文件
    a.重命名配置文件

    $ mv sqoop-env-template.sh sqoop-env.sh
    $ mv sqoop-site-template.xml sqoop-site.xml
    b.修改配置文件
    sqoop-env.sh

    export HADOOP_COMMON_HOME=/home/admin/modules/hadoop-2.7.2
    export HADOOP_MAPRED_HOME=/home/admin/modules/hadoop-2.7.2
    export HIVE_HOME=/home/admin/modules/apache-hive-1.2.2-bin
    export ZOOKEEPER_HOME=/home/admin/modules/zookeeper-3.4.5
    export ZOOCFGDIR=/home/admin/modules/zookeeper-3.4.5
  3. 拷贝JDBC驱动
    拷贝 jdbc 驱动到 sqoop 的 lib 目录下,如
    $ cp -a mysql-connector-java-5.1.27-bin.jar ~/modules/sqoop-1.4.7.bin__hadoop-2.0.4-alpha/lib/
  4. 验证sqoop
    我们可以通过某一个 command 来验证 sqoop 配置是否正确:

    $ bin/sqoop help
    出现一些 Warning 警告(警告信息已省略),并伴随着帮助命令的输出:
    Available commands:
    codegen Generate code to interact with database records
    create-hive-table Import a table definition into Hive
    eval Evaluate a SQL statement and display the results
    export Export an HDFS directory to a database table
    help List available commands
    import Import a table from a database to HDFS
    import-all-tables Import tables from a database to HDFS
    import-mainframe Import datasets from a mainframe server to HDFS
    job Work with saved jobs
    list-databases List available databases on a server
    list-tables List available tables in a database
    merge Merge results of incremental imports
    metastore Run a standalone Sqoop metastore
    version Display version information
  5.   测试 Sqoop 是否能够成功连接数据库

    $ bin/sqoop list-databases --connect jdbc:mysql://linux01:3306/ --username root --password
    123456
    出现如下输出:
    information_schema
    metastore
    mysql
    performance_schema

猜你喜欢

转载自blog.csdn.net/liangzelei/article/details/80305169