Sqoop 组件部署
sqoop就是一个工具, 只需要在一个节点上进行安装即可。
参考:https://blog.csdn.net/qq_26803795/article/details/80905651
https://www.cnblogs.com/qingyunzong/p/8807252.html#_label2_2
本环节需要使用 root 用户完成相关配置,已安装 Hadoop 及需要配置前置环境,具体部署要求如下: 1、Sqoop 安装包到“/usr/local/src”路径,并使用相关命令,修改解压后文件夹名为 sqoop,进入 sqoop 文件夹,并将查看内容截图;
tar zxvf /h3cu/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /usr/local/src
mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha sqoop
2、修改 Sqoop 环境变量,并使环境变量只对当前用户生效;
export SQOOP_HOME=/usr/local/src/sqoop
export PATH=$PATH:$SQOOP_HOME/bin
补充
export CLASSPATH=$CLASSPATH:$SQOOP_HOME/lib
3、修改并配置 sqoop-env.sh 文件,截图并保存结果;
mv sqoop-env-template.sh sqoop-env.sh
export HADOOP_COMMON_HOME=/usr/local/src/hadoop
#Set path to where hadoop-*-core.jar is available
export HADOOP_MAPRED_HOME=/usr/local/src/hadoop
#set the path to where bin/hbase is available
export HBASE_HOME=/usr/local/src/hbase
#Set the path to where bin/hive is available
export HIVE_HOME=/usr/local/src/hive
#Set the path for where zookeper config dir is
export ZOOCFGDIR=/usr/local/src/zookeeper/conf
验证安装是否成功
sqoop-version 或者 sqoop version
4、测试 Sqoop 连接 MySQL 数据库是否成功,截图并保存结果;
加入 mysql 驱动包到 sqoop/lib 目录下
cp /h3cu/mysql-connector-java-5.1.47.jar /usr/local/src/sqoop/lib/
sqoop list-databases–connect jdbc:mysql://slave1:3306/ –username root–password passwd
5、通过 Sqoop 将 Hive 中数据传输到 MySQL 数据库,截图并保存结果。
sqoop import --connect jdbc:mysql://localhost:3306/spark --username root --password 123456 --table student --fields-terminated-by '|' --delete-target-dir --num-mappers 1 --hive-import --hive-database recruitdata --hive-table student