数据湖探索 DLI-使用Livy提交Spark Jar作业:DLI Livy工具下载及安装
DLI Livy工具下载及安装
本次操作下载的DLI Livy版本为apache-livy-0.7.2.0107-bin.tar.gz,后续版本变化请根据实际情况修改。
- 单击下载链接,获取DLI Livy工具压缩包。
- 使用WinSCP工具,将获取的工具压缩包上传到准备好的E CS 服务器目录下。
- 使用root用户登录ECS服务器,执行以下命令安装DLI Livy工具。
- 执行以下命令创建工具安装路径。
例如新建路径/opt/livy:mkdir /opt/livy。后续操作步骤均默认以/opt/livy安装路径演示,请根据实际情况修改。
- 解压工具压缩包到安装路径。
tar --extract --file apache-livy-0.7.2.0107-bin.tar.gz --directory /opt/livy --strip-components 1 --no-same-owner
- 执行以下命令修改配置文件名称。
mv livy-client.conf.template livy-client.conf
mv livy.conf.template livy.conf
mv livy-env.sh.template livy-env.sh
mv log4j.properties.template log4j.properties
mv spark-blacklist.conf.template spark-blacklist.conf
touch spark-defaults.conf
- 执行以下命令创建工具安装路径。
- 什么是Spark SQL作业_数据湖探索DLISpark SQL作业
- 什么是数据湖探索服务_数据湖探索DLI用途与特点
- 数据治理中心_数据开发_数据开发示例_使用教程-华为云
- 什么是Flink OpenSource SQL_数据湖探索_Flink OpenSource SQL
- 什么是跨源连接-数据湖探索DLI跨源连接
- 数据治理中心_数据开发_数据开发能力_脚本和节点介绍-华为云
- 华为云内容审核服务_内容审核有什么作用_华为云内容审核的优势
- 什么是Spark_如何使用Spark_Spark的功能是什么
- MapReduce服务_什么是Flink_如何使用Flink
- 大数据应用范围有哪些_大数据技术与应用要学习什么课程