检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
程等资源的占用,如果控制不当可能会导致内存溢出、CPU使用高等问题。 若集群开启了Ranger鉴权,需要关闭Ranger鉴权后才能使用Python的UDF函数。 下面以编写一个AddDoublesUDF为例,说明UDF的编写和使用方法。 功能介绍 AddDoublesUDF主要用
"收集SQL作业结果失败", "error_code" : "0172" } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
不支持。 如上表所示,yarn-cluster模式中不支持在Spark工程代码中进行安全认证,因为需要在应用启动前已完成认证。 未提供Python样例工程的安全认证代码,推荐在运行应用程序命令中设置安全认证参数。 安全认证代码(Java版) 目前样例代码统一调用LoginUtil
不支持。 如上表所示,yarn-cluster模式中不支持在Spark工程代码中进行安全认证,因为需要在应用启动前已完成认证。 未提供Python样例工程的安全认证代码,推荐在运行应用程序命令中设置安全认证参数。 安全认证代码(Java版) 目前样例代码统一调用LoginUtil
表。 SparkHivetoHbaseScalaExample SparkJavaExample Spark Core任务的Java/Python/Scala示例程序。 本工程应用程序实现从HDFS上读取文本数据并计算分析。 SparkPythonExample SparkScalaExample
状态码: 200 修改集群名称成功 { "result" : "succeeded" } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 修改MRS集群名称为mrs_jdRU_dm01 1 2 3 4 5 6 7 8 9 10 11 12 13
"FAILED", "message" : "Cancel sql error" } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
不支持。 如上表所示,yarn-cluster模式中不支持在Spark工程代码中进行安全认证,因为需要在应用启动前已完成认证。 未提供Python样例工程的安全认证代码,推荐在运行应用程序命令中设置安全认证参数。 安全认证代码(Java版) 目前样例代码统一调用LoginUtil类进行安全认证。
202 同步请求下发的结果 { "state" : "synchronizing" } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
"DEV", "value" : "DEV1" } } 响应示例 无 SDK代码示例 SDK代码示例如下。 Java Python Go 更多 给指定集群添加标签 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
目的端 版本号 MySQL 支持 不支持 5.7.x、8.0.x PgSQL 支持 不支持 9.6、10、11、12、13 Opengauss(开源版本) 支持 不支持 2.1.0及之后版本 DWS 不支持 支持 8.1.1及之后版本 使用约束: 如果需要使用CDL, Kafka服务的配置参数“log
"af846665-dd32-4349-a8b5-561e109c383c" ] } 响应示例 无 SDK代码示例 SDK代码示例如下。 Java Python Go 更多 批量删除作业请求示例 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
型集群提供丰富的组件搭配,可自行选择对应版本MRS集群所支持的所有组件。 版本类型 LTS版 待创建的MRS集群版本类型,不同版本所包含的开源组件版本及功能特性可能不同,推荐选择最新版本。 集群版本 MRS 3.2.0-LTS.1 待创建的MRS集群版本。 组件选择 实时分析集群
"DEV2", "value" : "DEV2" } ] } 响应示例 无 SDK代码示例 SDK代码示例如下。 Java Python Go 更多 批量刪除 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19
"DEV2", "value" : "DEV2" } ] } 响应示例 无 SDK代码示例 SDK代码示例如下。 Java Python Go 更多 批量添加集群标签 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18
"08467a446200d5ac4ff9c01d56670c3b" } ] } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
"message" : "提交SQL到Executor上失败,集群ID为xxxx" } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
202 同步请求下发的结果 { "state" : "synchronizing" } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 将group1和user1同步到manager。同时会自动将user1关联的IAM用户组也同步到manager 1 2
SQL常用概念 DataFrame DataFrame是一个由多个列组成的结构化的分布式数据集合,等同于关系数据库中的一张表,或者是R/Python中的Data Frame。DataFrame是Spark SQL中的最基本的概念,可以通过多种方式创建,例如结构化的数据集、Hive表、外部数据库或者RDD。
"cn-north-7a", "support_physical_az_group" : true } SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21