检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Kafka主要是查询Topic未消费的消息数。 参数 用户可参考表1和表2配置MRS Kafka的参数。 表1 属性参数 参数 是否必选 说明 数据连接 是 选择管理中心中已创建的MRS Kafka连接。 Topic名称 是 选择MRS Kafka中已创建的Topic，使用SDK或者命令行创建。具体操作请参见从零开始使用Kafka。
目前数据集成集群支持以下部分规格供用户选择： cdm.large：大规格，8核CPU、16G内存的虚拟机，最大带宽/基准带宽为3/0.8 Gbps，集群作业并发数上限为16。 cdm.xlarge：超大规格，16核CPU、32G内存的虚拟机，最大带宽/基准带宽为10/4 Gbps，集群作业并发数上限为32，适
Client节点的使用案例。 参数 用户可参考表1配置Kafka Client节点的参数。 表1 属性参数 参数 是否必选 说明 数据连接 是 选择管理中心中已创建的MRS Kafka连接。 Topic名称 是 选择需要上传数据的Topic，如果有多个partition，默认发送到partition 0。
配置LTS源端参数 表1 LTS作为源端时的作业参数 参数名 说明 取值样例 源连接名称 对应关系数据库的表名。 TABLENAME 单次查询数据条数 一次从日志服务查询的数据条数。 128 日志分组 日志组是云日志服务进行日志管理的基本单位。 _ 日志流 日志流是日志读写的基本单位。
中创建DWS的数据连接。 DLI导入数据到DWS时，DWS的表需要先创建好。 DLI到CSS、CloudTable端的数据转换： DLI导入数据到CSS集群或CloudTable集群时，需要在DLI侧提前创建好关联对应CSS或CloudTable集群的跨源连接，请参见《数据湖探索用户指南》的SQL跨源连接。
SQL、MRS Spark、MRS Spark Python、MRS Flink Job、 MRS MapReduce），以及通过API方式连接的（MRS Spark SQL、MRS Hive SQL）节点。 配置服务级Admin权限 因作业执行过程中，需要往OBS写执行日志信息，
Spark（Hudi）、MRS ClickHouse、DORIS。 从下拉列表中选择已创建的数据连接。 说明： 规则都是基于数据连接的，所以在建立数据质量规则之前需要先到管理中心模块中建立数据连接。 针对通过代理连接的MRS Hive，需要选择MRS API方式或者代理方式提交： MRS API方式：通过MRS
源端和目的端的数据，也可以通过对比记录数来看迁移结果是否成功、数据是否丢失。 修改 修改作业参数 可重新配置作业参数，支持重新选择源连接和目的连接。 编辑作业JSON 直接编辑作业的JSON文件，作用等同于修改作业的参数配置。 操作步骤 进入CDM主界面，单击左侧导航上的“集群管理”，选择集群后的“作业管理”。
*数据连接类型 请选择和维度表、事实表相同的数据连接类型。 *数据连接 数据集市建议使用统一的数据连接。 *数据库 选择数据库。 队列 DLI队列。该参数仅DLI连接类型有效。 Schema DWS或POSTGRESQL的模式。该参数在DWS或POSTGRESQL连接类型有效。
count Integer 数据连接总数。 datasource_statistics Array of DataSource objects 数据连接统计信息。 表5 DataSource 参数 参数类型 描述 datasource_name String 数据连接名称。 datasource_type
点替代Subjob节点。 作业的调度方式设置为“事件驱动调度”，连接名称和Topic选择为工作空间B中的Kafka连接和Topic，需要与工作空间A中job1作业中Kafka Client节点所选择的Kafka连接和Topic相对应，用于通过Kafka消息触发作业运行。 IF判断条件设置，用于校验Kafka
否 String 表2名称。 join_type 是 String 关联类型。 枚举值： LEFT: 左外连接 RIGHT: 右外连接 INNER: 内连接 FULL: 全连接 join_fields 是 Array of MappingJoinFieldVO objects on条件。
Studio控制台首页，选择对应工作空间的“数据安全”模块，进入数据安全页面。 单击左侧导航树中的“权限报告”，进入权限报告页面。 选择MRS集群（Ranger连接） > 服务查看该服务的策略及策略详情。 高级搜索功能： 您在查看报告时，可以使用搜索操作，高级搜索提供了根据集群、策略名称、用户、用户组
除数据孤岛，统一数据标准，加快数据变现，实现数字化转型。 您可以使用本文档提供的API对数据治理中心的各组件进行相关操作，如创建集群、创建连接等。支持的全部操作请参见API概览。 在调用数据治理中心API之前，请确保已经充分了解数据治理中心相关概念，详细信息请参见产品介绍。 父主题：
一般是指直接来自源文件（业务系统数据库、线下文件、IoT等）的数据，或者直接复制源文件的“副本数据”。 数据连接 定义访问数据实体存储（计算）空间所需的信息的集合，包括连接类型、名称和登录信息等。 并发数 并发数是数据集成作业中，可以从源端并行读取的最大线程数。 脏数据 脏数据是
单击“测试运行”，然后在节点上右键查看日志，日志中会把EL表达式的值打印出来。 使用Shell节点。 前提：您需要具备ECS弹性云服务器。 方法：创建一个主机连接，将EL表达式直接通过echo打印出来，单击“测试运行”之后查看日志，日志中会打印出EL表达式的值。 使用Create
项目ID，获取方法请参见项目ID和账号ID。 表2 Query参数 参数 是否必选 参数类型 描述 data_connection_id 否 String 数据连接id，如果是获取技术报告规则评分，请务必填写data_connection_id，database_name，table_name参数值。
若关联的SQL脚本，脚本参数发生变化，可单击刷新按钮同步。 说明： 若选择SQL语句方式，数据开发模块将无法解析您输入SQL语句中携带的参数。 数据连接 是 选择数据连接。 数据库 是 选择数据库名称，该数据库已创建好，建议不要使用默认数据库。 表2 高级参数 参数 是否必选 说明 节点状态轮询时间（秒）
权限视角支持以权限策略视角，来展示、配置或收回数据在当前权限集下的权限策略关系。 支持空间资源管控 除了数据权限管控外，还支持对空间资源进行管控，例如数据连接、委托等资源。 使用流程 您可通过图1了解统一权限治理的使用流程。 图1 统一权限治理使用流程图 统一权限治理支持数据权限管控、服务资源管
称，请在参数名称后的输入框配置参数值。 说明： 若选择SQL语句方式，数据开发模块将无法解析您输入SQL语句中携带的参数。 数据连接 是 选择数据连接。 数据库 是 填写数据库名称，该数据库已创建好，建议不要使用默认数据库。 表2 高级参数 参数 是否必选 说明 节点状态轮询时间（秒）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
