检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
指定加载的Jar包类名,如KafkaMessageStreaming。 默认:根据Jar包文件的Manifest文件指定。 指定:需要输入类名并确定类参数列表(参数间用空格分隔)。 说明: 当类属于某个包时,需携带包路径,例如:packagePath.KafkaMessageStreaming。 入口参数 是
API_SPECIFIC_TYPE_ORCHESTRATE:编排类API API_TYPE_CREATE:创建类API(已弃用) API_TYPE_REGISTER:注册类API(已弃用) auth_type 否 String 认证类型。 枚举值: APP: app secret认证 IAM: IAM
员升级CDM集群中的dlg-agent组件版本。 IP 是 MRS Ranger组件中RangerAdmin角色的管理IP。如果有多个ip用“,”分隔。 获取方法: 登录MRS FusionInsight Manager。 选择“集群 > 服务 > Ranger > 实例”,可查
名称只能全部小写,不能有大写。 索引下的字段类型创建后不能修改,只能创建新字段。 如果一定要修改字段类型,需要创建新索引或到Kibana上用Elasticsearch命令删除当前索引重新创建(数据也会删除)。 CDM自动创建的索引,字段类型为date时,要求数据格式为“yyyy-MM-dd
基于全量数据,随机取x%的数据 基于已采集的全量数据在数据目录中生成数据概要。 适用于数据量较多的情况。 DLI队列 选择获取profile数据,执行DLI SQL用的队列。 勾选“采集唯一值”表示只统计已采集的表中的唯一值的个数,并在数据目录中的概要页签呈现。 数据分类配置说明(仅当数据目录组件中具备数
您按照业务量情况规划多个Agent分担压力。 hsbroker IP列表 是 MRS Hetu组件的hsbroker节点ip列表,多个ip用“,”分隔。 获取方法: 登录MRS FusionInsight Manager。 选择“集群 > 服务 > HetuEngine > 角色
S集群数据连接。 FE IP 是 MRS集群Doris或者Cloud组件frontend节点的IP,可以填写一个或多个IP。如果有多个ip用“,”分隔。 获取方法: 登录MRS FusionInsight Manager。 选择“集群 > 服务 > Doris > 实例”,获取FE角色的管理IP。
Boolean 选择是否开启消息通知。开启后,支持配置20个手机号码或邮箱,作业(目前仅支持表/文件迁移的作业)失败时、EIP异常时会发送短信或邮件通知用。 phone_num 否 String 接收消息通知的手机号码。 email 否 String 接收消息通知的邮箱。 表4 cluster
CatalogAttributeVO object 属性列表。 表5 CatalogAttributeVO 参数 是否必选 参数类型 描述 path 是 String 路径。用“/”作为分隔,如:运营领域/云学院/云学院培训方案。 qualifiedName 是 String 资产名称。 level 是 String
L表名相同的DWS表中。 自定义:数据将同步至自行指定的DWS表中。 图5 整库场景下源库表和目标匹配策略 说明: 自定义匹配策略时,支持用内置变量#{source_db_name}和#{source_table_name}标志来源MySQL的库名和表名,其中表匹配策略必须包含#
项目ID,获取方法请参见项目ID和账号ID。 cluster_id 是 String 集群ID。 job_name 是 String 查询多个作业用all,查询单个作业输入作业名。 表2 Query参数 参数 是否必选 参数类型 描述 filter 否 String 当“job_name
CatalogAttributeVO object 属性列表。 表5 CatalogAttributeVO 参数 是否必选 参数类型 描述 path 是 String 路径。用“/”作为分隔,如:运营领域/云学院/云学院培训方案。 qualifiedName 是 String 资产名称。 level 是 String
配置多表多字段规则模板时,目前仅支持最多5个库表、20个字段、5个输入参数。 输出结果说明:对SQL获得结果的每一列进行说明,与关系定义的输出结果顺序一一对应,列说明之间用英文逗号进行分隔。 例如当定义关系设置为:select max(${Column1}),min(${Column2}) from ${Sch
L表名相同的DWS表中。 自定义:数据将同步至自行指定的DWS表中。 图7 整库场景下源库表和目标匹配策略 说明: 自定义匹配策略时,支持用内置变量#{source_db_name}和#{source_table_name}标志来源MySQL的库名和表名,其中表匹配策略必须包含#
Schema名相同的Hudi表中。 自定义:数据将同步至自行指定的Hudi表中。 图6 整库场景下源库表和目标匹配策略 说明: 自定义匹配策略时,支持用内置变量#{source_db_name}和#{source_table_name}标志来源Oracle Schema名和表名,其中表匹配策
scape_char,避免原来的那个字符起到转义作用。 应用示例: 在进行转储时,如果引用字符和转义字符不填,如下图所示。 下载的.csv用excel打开以后如下图所示,是分成两行的。 在转储时,如果引用字符和转义字符都填写,比如,引用字符和转义字符都填英文双引号("),则下载以后查看结果如下图所示。
L表名相同的DWS表中。 自定义:数据将同步至自行指定的DWS表中。 图7 整库场景下源库表和目标匹配策略 说明: 自定义匹配策略时,支持用内置变量#{source_db_name}和#{source_table_name}标志来源MySQL的库名和表名,其中表匹配策略必须包含#
Schema名相同的Hudi表中。 自定义:数据将同步至自行指定的Hudi表中。 图7 整库场景下源库表和目标匹配策略 说明: 自定义匹配策略时,支持用内置变量#{source_db_name}和#{source_table_name}标志来源SQLServer Schema名名和表名,其中
名相同的Hudi表中。 自定义:数据将同步至自行指定的Hudi表中。 图8 整库场景下源库表和目标匹配策略 说明: 自定义匹配策略时,支持用内置变量#{source_db_name}和#{source_table_name}标志来源MySQL的库名和表名,其中表匹配策略必须包含#
min(${Column2}) from ${Schema_Table1},则输出结果说明可写为“最大值,最小值”,注意输入顺序。输出结果说明中有多个字段时,用英文逗号进行分隔。如果输出结果说明中使用中文逗号,在保存时会自动替换成英文逗号。 质量规则 入参 当“规则类型”选择“多表多字段”,需要配置该参数。