检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Spark on Hudi开发规范 SparkSQL建表参数规范 Spark增量读取Hudi参数规范 Spark异步任务执行表compaction参数设置规范 Spark表数据维护规范 父主题： DLI Hudi开发规范
"result": true } 状态码 状态码如表4所示。 表4 状态码 状态码 描述 200 操作成功。 400 请求错误。 500 内部服务器错误。 错误码 调用接口出错后，将不会返回上述结果，而是返回错误码和错误信息，更多介绍请参见错误码。 表5 错误码 错误码 错误信息 DLI.0015
ues 参数说明 表1 路径参数 参数 是否必选 参数类型 描述 elastic_resource_pool_name 是 String 弹性资源池名称。 project_id 是 String 项目编号，用于资源隔离。获取方式请参考获取项目ID。 请求消息 表2 请求参数说明 参数
在聚合过程中，数据量大的分组会占用更多的计算资源和时间，导致处理速度变慢，出现数据倾斜。 JOIN 操作倾斜 在执行表JOIN操作时，参与JOIN的键在某个表中分布极不均匀，导致大量数据集中在少数几个任务中处理，而其他任务则已完成，造成数据倾斜。 Group By数据倾斜解决方案
/v1.0/{project_id}/queues 参数说明 表1 URI参数 参数名称 是 否必选 参数类型 说明 project_id 是 String 项目编号，用于资源隔离。获取方式请参考获取项目ID。 请求消息 表2 请求参数 参数名称 是否必选 参数类型 说明 queue_name
在管理控制台左侧，单击“作业模板”>“SQL模板”。 在“SQL模板”页面，单击右上角“创建模板”。 输入模板名称、语句和描述信息，详细参数介绍请参见表1。 图1 创建模板 表1 参数说明 参数名称 描述 名称 模板名称。 模板名称只能包含数字、英文字母和下划线，但不能是纯数字，不能以下划线开头，且不能为空。
SQL函数和操作符 逻辑运算符 比较函数和运算符 条件表达式 Lambda 表达式 转换函数 数学函数和运算符 Bitwise函数 十进制函数和操作符 字符串函数和运算符 正则表达式函数 二进制函数和运算符 Json函数和运算符 日期、时间函数及运算符 聚合函数 窗口函数 数组函数和运算符
appName("datasource-opentsdb").getOrCreate(); 通过SQL API 访问 创建DLI跨源访问MRS OpenTSDB的关联表，填写连接参数。 1 sparkSession.sql("create table opentsdb_new_test using opentsdb
doublef:CF1.doublef')") ZKHost、RowKey、Cols三个参数详情讲解可参考表1。 TableName：CloudTable中的表名，在保存时如果没有表名，系统会自动创建。 构造schema 1 2 3 4 5 6 7 8 9 schema = Stru
数据定义语句DDL 创建源表 创建结果表 创建维表 Format 父主题： Flink Opensource SQL1.12语法参考
分组函数 表1 分组函数 SQL函数 函数说明 GROUP_ID() 返回唯一标识分组键组合的整数。 GROUPING(expression1 [, expression2]* ) | GROUPING_ID(expression1 [, expression2]* ) 返回给定分组表达式的位向量。
的Spark引擎。 Flink OpenSource SQL作业： 登录DLI管理控制台。 选择“作业管理 > Flink作业”，在作业列表中选择待操作的Flink OpenSource SQL作业。 单击操作列的“编辑”，进入作业编辑页面。 在右侧的“运行参数”配置区域，选择新的Flink版本。
'principal'='krbtest') "); 与未开启kerberos认证相比，开启了kerberos认证需要多设置三个参数，如表1所示。 表1 参数说明 参数名称与参数值 参数说明 'krb5conf' = './krb5.conf' krb5.conf的地址。 'keytab'='
启动作业，有以下两种方式： 启动单个作业 选择一个作业，在对应的“操作”列中，单击“启动”。 也可以在作业列表中，勾选一个作业，单击作业列表左上方的“启动”。 批量启动作业 勾选多个作业，单击作业列表左上方的“启动”，可以启动多个作业。 单击“启动”后，跳转至“作业配置清单”页面。 在“作业配
WITH LOCAL TIME ZONE，INTERVAL，ARRAY，MULTISET，MAP，ROW 在SQL语法中这些类型用于定义表中列的数据类型。 父主题： SQL语法约束与定义
WITH LOCAL TIME ZONE，INTERVAL，ARRAY，MULTISET，MAP，ROW 在SQL语法中这些类型用于定义表中列的数据类型。 父主题： SQL语法约束与定义
支持配置小文件合并 使用SQL过程中，生成的小文件过多时，会导致作业执行时间过长，且查询对应表时耗时增大，建议对小文件进行合并。 参考如何合并小文件完成合并小文件。 支持修改非分区表或分区表的列注释 修改非分区表或分区表的列注释。 支持统计SQL作业的CPU消耗 支持在控制台查看“CPU累计使用量”。
Studio服务进行作业开发请参考《数据治理中心用户指南》。 Spark SQL语法创建表时是否支持定义主键 Spark SQL语法不支持定义主键。 DLI Spark jar作业是否能访问DWS跨源表？ 可以访问。 详细操作请参考访问DWS和访问SQL库表。 如何查看Spark内置依赖包的版本？ DLI内置依赖
current-page 否 当前页码，默认为第一页。 请求消息 无请求参数。 响应消息 表2 响应参数 参数 是否必选 参数类型 说明 is_success 否 Boolean 执行请求是否成功。“true”表示请求执行成功。 message 否 String 系统提示信息，执行成功时，信息可能为空。
"error_code": "DLI.0001" } 其中，error_code表示错误码，error_msg表示错误描述信息。 表1 异常响应说明 名称 参数类型 说明 error_code String 错误码，请参见表2。 error_msg String 错误详细信息。 错误码说明
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
