Sqoop 组件部署

sqoop就是一个工具, 只需要在一个节点上进行安装即可。

参考:https://blog.csdn.net/qq_26803795/article/details/80905651

https://www.cnblogs.com/qingyunzong/p/8807252.html#_label2_2

本环节需要使用 root 用户完成相关配置,已安装 Hadoop 及需要配置前置环境,具体部署要求如下: 1、Sqoop 安装包到“/usr/local/src”路径,并使用相关命令,修改解压后文件夹名为 sqoop,进入 sqoop 文件夹,并将查看内容截图;

tar zxvf /h3cu/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /usr/local/src
mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha sqoop

2、修改 Sqoop 环境变量,并使环境变量只对当前用户生效;

export SQOOP_HOME=/usr/local/src/sqoop
export PATH=$PATH:$SQOOP_HOME/bin

补充
export CLASSPATH=$CLASSPATH:$SQOOP_HOME/lib

3、修改并配置 sqoop-env.sh 文件,截图并保存结果;

mv sqoop-env-template.sh sqoop-env.sh

export HADOOP_COMMON_HOME=/usr/local/src/hadoop

#Set path to where hadoop-*-core.jar is available
export HADOOP_MAPRED_HOME=/usr/local/src/hadoop

#set the path to where bin/hbase is available
export HBASE_HOME=/usr/local/src/hbase

#Set the path to where bin/hive is available
export HIVE_HOME=/usr/local/src/hive

#Set the path for where zookeper config dir is
export ZOOCFGDIR=/usr/local/src/zookeeper/conf

验证安装是否成功

sqoop-version 或者 sqoop version

4、测试 Sqoop 连接 MySQL 数据库是否成功,截图并保存结果;


加入 mysql 驱动包到 sqoop/lib 目录下
cp /h3cu/mysql-connector-java-5.1.47.jar /usr/local/src/sqoop/lib/

sqoop list-databases–connect jdbc:mysql://slave1:3306/ –username root–password passwd

5、通过 Sqoop 将 Hive 中数据传输到 MySQL 数据库,截图并保存结果。

sqoop import --connect jdbc:mysql://localhost:3306/spark --username root --password 123456 --table student --fields-terminated-by '|' --delete-target-dir --num-mappers 1 --hive-import --hive-database recruitdata --hive-table student

results matching ""

    No results matching ""