MAPREDUCE服务 MRS-Spark Streaming对接Kafka0-10样例程序开发思路:打包项目

时间:2024-06-13 09:38:30

打包项目

  • 将user.keytab、krb5.conf 两个文件上传客户端所在服务器上。
  • 通过IDEA自带的Maven工具,打包项目,生成jar包。具体操作请参考在Linux环境中调测Spark应用

    编译打包前,样例代码中的user.keytab、krb5.conf文件路径需要修改为该文件所在客户端服务器的实际路径。例如:“/opt/female/user.keytab”,“/opt/female/krb5.conf”。

  • 将打包生成的jar包上传到Spark客户端所在服务器的任意目录(例如“ /opt” )下。
  • 准备依赖包,将下列jar包上传到Spark客户端所在服务器,“$SPARK_HOME/jars/streamingClient010”目录下。
    • spark-streaming-kafkaWriter-0-10_2.12-3.1.1-hw-ei-311001.jar
    • kafka-clients-xxx.jar
    • kafka_2.12-xxx.jar
    • spark-sql-kafka-0-10_2.12-3.1.1-hw-ei-311001-SNAPSHOT.jar
    • spark-streaming-kafka-0-10_2.12-3.1.1-hw-ei-311001-SNAPSHOT.jar
    • spark-token-provider-kafka-0-10_2.12-3.1.1-hw-ei-311001-SNAPSHOT.jar
    • 版本号中包含hw-ei的依赖包请从华为开源镜像站下载。
    • 版本号中不包含hw-ei的依赖包都来自开源仓库,请从Maven中心仓获取。
support.huaweicloud.com/devg-lts-mrs/mrs_07_200100.html