检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
若提示setuptools的47.3.1版本安装不成功,则需要检查环境是否有问题或是Python自身原因导致的。 安装Python客户端到客户端机器。 参考获取MRS应用开发样例工程,获取样例代码解压目录中“src\hive-examples”目录下的样例工程文件夹“python3-examples”。 进
Oozie开发指南(普通模式) Oozie应用开发简介 Oozie应用开发流程 准备Oozie应用开发环境 开发Oozie应用 调测Oozie应用 Oozie应用开发常见问题
Flink开发指南(普通模式) Flink应用开发简介 Flink应用开发流程介绍 准备Flink应用开发环境 开发Flink应用 调测Flink应用 Flink应用开发常见问题
Flink开发指南(安全模式) Flink应用开发简介 Flink应用开发流程介绍 准备Flink应用开发环境 开发Flink应用 调测Flink应用 Flink应用开发常见问题
Hive开发指南(安全模式) Hive应用开发简介 Hive应用开发流程介绍 准备Hive应用开发环境 开发Hive应用 调测Hive应用 Hive应用开发常见问题
Hive开发指南(普通模式) Hive应用开发简介 Hive应用开发流程介绍 准备Hive应用开发环境 开发Hive应用 调测Hive应用 Hive应用开发常见问题
Spark2x开发指南(安全模式) Spark应用开发简介 Spark应用开发流程介绍 准备Spark应用开发环境 开发Spark应用 调测Spark应用 Spark应用开发常见问题
HDFS开发指南(普通模式) HDFS应用开发简介 HDFS应用开发流程介绍 HDFS样例工程介绍 准备HDFS应用开发环境 开发HDFS应用 调测HDFS应用 HDFS应用开发常见问题
HDFS开发指南(安全模式) HDFS应用开发简介 HDFS应用开发流程介绍 HDFS样例工程介绍 准备HDFS应用开发环境 开发HDFS应用 调测HDFS应用 HDFS应用开发常见问题
Kafka开发指南(安全模式) Kafka应用开发简介 Kafka应用开发流程介绍 Kafka样例工程介绍 准备Kafka应用开发环境 开发Kafka应用 调测Kafka应用 Kafka应用开发常见问题
")).map(w => (w,1)).reduceByKey(_+_).collect() spark-submit 用于提交Spark应用到Spark集群中运行,返回运行结果。需要指定class、master、jar包以及入参。 示例:执行jar包中的GroupByTest例
Spark2x开发指南(普通模式) Spark应用开发简介 Spark应用开发流程介绍 Spark2x样例工程介绍 准备Spark应用开发环境 开发Spark应用 调测Spark应用 Spark应用开发常见问题
MapReduce开发指南(普通模式) MapReduce应用开发简介 MapReduce应用开发流程介绍 准备MapReduce应用开发环境 开发MapReduce应用 调测MapReduce应用 MapReduce应用开发常见问题
MapReduce开发指南(安全模式) MapReduce应用开发简介 MapReduce应用开发流程介绍 准备MapReduce应用开发环境 开发MapReduce应用 调测MapReduce应用 MapReduce应用开发常见问题
l退出时,应用退出关闭消息通道,如果当前还有消息未处理,需要做连接关闭异常的处理,此时,如果scala内部的线程池已经关闭,就会打印RejectEdExecutionException的异常栈,如果scala内部的线程池尚未关闭就不会打印该异常栈。 因为该问题出现在应用退出时,此
xml”,在文件中添加如下日志配置信息,加粗标注部分根据需要进行修改。 <appender name="TEST" class="ch.qos.logback.core.rolling.RollingFileAppender"> <file>/path/test.log</file>
xml”,在文件中添加如下日志配置信息,加粗标注部分根据需要进行修改。 <appender name="TEST" class="ch.qos.logback.core.rolling.RollingFileAppender"> <file>/path/test.log</file>
获取配置文件“hdfs-site.xml”、“core-site.xml”、“hbase-site.xml”。 方法二:通过准备HBase应用开发和运行环境中解压客户端文件的方法获取配置文件,需要在获取的“hbase-site.xml”中手动添加以下配置,其中“hbase.thrift
配置Oozie作业操作HDFS文件 功能描述 HDFS文件操作节点,支持对HDFS文件及目录的创建、删除、授权功能。 参数解释 FS Action节点中包含的各参数及其含义,请参见表1。 表1 参数含义 参数 含义 name FS活动的名称 delete 删除指定的文件和目录的标签
流程文件名 start 流程开始节点 end 流程结束节点 action 实现具体业务动作的节点(可以是多个) 样例代码 <workflow-app xmlns="uri:oozie:workflow:1.0" name="data_load"> <start to="copyData"/>