检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
MySQL到DWS链路 ，由于DWS的表是手动建立的，主键和MySQL不同。当DWS的主键字段在MySQL 中是非主键字段，如果该字段在MySQL中出现null值那么，写入到DWS中将会报错，报错信息如下： 图1 报错信息 原因分析 MySQL到DWS链路，由于DWS的表是手动建立的，主键和MySQL不同。当DWS的主键字段在MySQL
Studio仅支持其中的IAM角色方式，不支持IAM策略。 IAM角色：IAM最初提供的一种根据用户的工作职能定义权限的粗粒度授权机制。该机制以服务为粒度，提供有限的服务相关角色用于授权。传统的IAM角色并不能满足用户对精细化授权的要求，无法完全达到企业对权限最小化的安全管控要求。 I
> 复制”，即可弹出API工作流复制窗口。 复制API工作流能够得到与原API工作流配置相同的API工作流。复制流程与API复制流程基本一致，可参考复制API。 同步API工作流至数据地图：在API工作流列表页面，单击对应工作流操作栏上方的“更多 > 同步至数据地图”，即可进入API工作流同步页面。
作业名称。如果要查询指定批处理作业的实例列表，jobName就是批处理作业名称；如果要查询实时作业下某个节点关联的子作业，jobName格式为[实时作业名称]_[节点名称]。 jobId 否 Long 作业id。 jobInstanceName 是 String 作业实例运行时日志记录的实例名称，非作业定义的名称。
1048576 消费Kafka时服务器将返回的每个分区的最大字节数。Kafka单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。 properties.max.poll.records int 500 消费者每次poll时返回的最大消息条数。Kafka单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。
数据对账对于数据开发和数据迁移流程中的数据一致性至关重要，而跨源数据对账的能力是检验数据迁移或数据加工前后是否一致的关键指标。本章分别以DLI和DWS作为数据源，介绍如何通过DataArts Studio中的数据质量模块实现跨源数据对账的基本一致性校验。 环境准备 需要准备好对账的数据源，即通过管理
据将按照配置的参数存储到规定的库中。 图9 异常数据输出配置 各参数具体含义如下： 数据库或Schema：表示存储异常数据的数据库或Schema。 表前缀：表示存储异常数据的表的前缀。 表后缀：表示存储异常数据的表的后缀。 配置完成后单击保存配置。 （可选）质量规则的检查范围默认
1048576 消费Kafka时服务器将返回的每个分区的最大字节数。Kafka单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。 properties.max.poll.records int 500 消费者每次poll时返回的最大消息条数。Kafka单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。
可根据不同的API版本，分别进行调测、发布。 您也可以根据API版本追踪API的变更情况，支持版本对比。系统最多保留最近10条的版本记录，更早的版本记录会被删除。 前提条件 仅专享版支持API版本管理。 API更新版本是通过对已发布的API进行编辑后再次发布实现的。API如果处
持对一个或多个节点的结果集名称进行映射，映射后的名称会作用到JSON或文件名中，未映射的结果集将不会输出到最终返回结果中。 节点映射表达式写法固定为“${节点编码|payload}”，节点编码可通过在API编排的画布中，单击节点后在节点详情中查看，并支持通过复制。 图1 查看节点编码
只有数据开发作业配置了周期调度，才支持使用补数据功能。 使用案例 案例场景 在某企业的产品数据表中，有一个记录产品销售额的源数据表A，现在需要把产品销售额的历史数据导入的目的表B里面，需要您配置补数据作业的相关操作。 需要导入的列表情况如表1所示。 表1 需要导入的列表情况 源数据表名 目的表名 A B 配置方法
只有数据开发作业配置了周期调度，才支持使用补数据功能。 使用案例 案例场景 在某企业的产品数据表中，有一个记录产品销售额的源数据表A，现在需要把产品销售额的历史数据导入的目的表B里面，需要您配置补数据作业的相关操作。 需要导入的列表情况如表1所示。 表1 需要导入的列表情况 源数据表名 目的表名 A B 配置方法
单个map的错误记录超过设置的最大错误记录数则任务自动结束，已经导入的数据不支持回退。推荐使用临时表作为导入的目标表，待导入成功后再改名或合并到最终数据表。 0 开启限速 设置限速可以保护源端读取压力，速率代表CDM传输速率，而非网卡流量。 说明： 支持对非二进制文件迁移的作业进行单并发限速。
作业配置了每日调度，但是实例没有作业运行调度记录？ 问题描述 作业配置了每日调度，但是实例没有作业运行调度记录。 原因分析 原因1：确认作业是否启动调度，如果没有启动，不会进行调度。 原因2：实例查询时间区间过大，如果配置有依赖作业或者自依赖，查看历史作业实例是否因为依赖失败，导致等待运行，没有生成新作业实例。
明。 连接主机的用户需要具有主机/tmp目录下文件的创建与执行权限。 Shell或Python脚本可以在该ECS主机上运行的最大并发数由ECS主机的/etc/ssh/sshd_config文件中MaxSessions的配置值确定。请根据Shell或Python脚本的调度频率合理配置MaxSessions的值。
桶类型分为对象桶和并行文件系统，对象桶过滤文件会比较慢，建议客户使用并行文件桶。 linkConfig.server 是 String OBS服务器的终端节点（Endpoint）。 linkConfig.port 是 String 数据传输协议端口，https是443，http是80。
管理工作空间 创建并管理工作空间 设置工作空间配额 （可选）修改作业日志存储路径
实时集成任务运维 查看监控指标 查看同步日志 配置告警规则 动态修改任务配置 父主题： 数据集成（实时作业）
在IAM服务控制台中，单击“用户组”，在用户组页面单击创建的DQC用户组名，进入用户组详情页面。 图8 进入用户组详情 在用户组详情页面下方的授权记录区域，条数切换到20条，展开所有14条授权记录。勾选除DAYU User外的所有依赖服务权限，并单击列表上方的删除。 图9 删除依赖服务权限 依赖服务
下载中心的下载记录会定期老化，老化时下载中心记录和已转储的OBS数据会同时被删除。 操作者只能看到自己操作的下载记录，工作空间的管理员可以看到当前空间的所有下载记录。 通过下载中心，对SQL脚本执行的结果进行统一管理。对下载的结果可以进行查看和删除，对转储的结果可以进行查看、下载和删除。 图1 下载中心 配置默认的OBS路径地址
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
