检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据源安全组放通哪些端口可满足Migration访问？ 如何配置Hudi Compaction的Spark周期任务？ MySQL到DWS实时同步中，同步新增列的DDL时报错怎么办？ MySQL到DWS实时同步中，DWS为什么需要对主键null值进行过滤？ Kafka到DLI实时同步中，作业运行失败，报“Array
PostgreSQL同步到DWS作业配置 支持的源端和目的端数据库版本 表1 支持的数据库版本 源端数据库 目的端数据库 PostgreSQL数据库（PostgreSQL 9.4、9.5、9.6、10、11、12、13、14版本） DWS集群（8.1.3、8.2.0版本） 数据库账号权限要求
DM上创建MySQL连接时输入这个地址和端口）。 映射地址、映射端口：配置为内网MySQL的地址和端口。 图2 配置端口映射 单击“增加”，添加端口映射关系。 单击“开始映射”，这时才会真正开始映射，接收数据包。 至此，就可以在CDM上通过弹性IP读取本地内网MySQL的数据，然后导入到云服务DWS中。
在DLI队列详情页面，单击“授权”，在弹出的窗口中参考表2填写策略相关参数，完成后单击保存，完成队列授权。 表3 DLI队列授权参数说明 参数名 参数描述 用户名称 选择需要授权的用户。用户列表来自于工作空间中已添加的用户。 说明： 为DLI队列的授权时，当前只支持用户，不支持用户组。
选择API需要停用的时间，单击“确定”，完成API定时停用。 停用时间必须选择在API发布后的最低保留期限时间之后。选择停用时间后，停用操作会通知已授权用户。如果所有已授权用户均完成审核中心通知列表消息处理，或在应用中解绑与API的绑定关系，API就会直接停用；否则会以待停用状态，等待达到停用时间，再强制停用。
敏感数据治理流程 敏感数据定义 敏感数据主要指未经个人或集团授权被他人使用，有可能给个人或集团带来严重损害的数据。 以《GBT 35273-2020 信息安全技术个人信息安全规范》为例，个人敏感数据有： 个人财产信息 （存款、信贷、消费流水） 个人健康生理信息（体检信息、医疗记录）
统一权限治理对数据连接Agent、数据源版本和用户权限等均有相应的要求。在使用前，您应先按照表1，检查并准备相关配置。 DLI权限管理仅涉及授权dlg_agency委托，不涉及检查集群版本与权限。 使用前检查checklist 表1 使用前检查checklist 检查项 是否必选 检查内容
选择API需要下线的时间，单击“确定”，完成API定时下线。 下线时间必须选择在API发布后的最低保留期限时间之后。选择下线时间后，下线操作会通知已授权用户。如果所有已授权用户均完成审核中心通知列表消息处理，或在应用中解绑与API的绑定关系，API就会直接下线；否则会以待下线状态，等待达到下线时间，再强制下线。
PostgreSQL到DWS参数调优 源端优化 PostgreSQL抽取优化。 暂无优化配置项。 目的端优化 DWS写入优化。 可通过在DWS的目的端配置中修改写入相关配置，且可以通过单击高级配置的“查看编辑”按钮，添加高级属性。 图1 添加高级属性 表1 DWS写入优化参数 参数名
配置连接参数 OBS连接参数说明 PostgreSQL/SQLServer连接参数说明 数据仓库服务（DWS）连接参数说明 云数据库MySQL/MySQL数据库连接参数说明 Oracle数据库连接参数说明 DLI连接参数说明 Hive连接参数说明 HBase连接参数说明 HDFS连接参数说明
SQL脚本建立外部分区数据表，以及按照告警分区时间和告警类别进行统计。 迁移数据：告警统计表计算完成后，将数据通过云数据迁移服务（CDM）统一导出到RDS MySQL数据库。 环境准备 已开通对象存储服务（OBS），并创建桶，例如“obs://dlfexample/alarm_info”、“obs:
标识下载权限策略，为便于策略管理，建议名称中包含授权对象。 策略名须以英文或中文开头，仅支持中英文、数字和下划线，最多64个字符。 策略描述 为更好地识别策略，此处加以描述信息。 *授权内容 授权对象默认为数据开发组件，需选择需要授权的操作，并支持配置单次转储记录值上限。 说明：
String 根据API用到的数据库表名模糊查询。 authorization_status 否 String 授权状态。 枚举值： NO_AUTHORIZATION_REQUIRED: 无需授权 UNAUTHORIZED: 未授权 AUTHORIZED: 已授权 请求参数 表3 请求Header参数
28752 / RDS（Postgresql） 4U32G（主备模式） Postgresql 13.12 128865 1351351（并发度：30） 表2 写入性能实测数据 数据源 数据源规格 版本 单并发写入速率 （行/s） 多并发写入速率 （行/s） 云数据库 MySQL 8U 32G
配置PostgreSQL目的端参数 OpenGauss数据源与PostgreSQL一致，可参考本章节配置。 表1 PostgreSQL作为目的端时的作业参数 参数类型 参数名 说明 取值样例 基本参数 模式或表空间 待写入数据的数据库名称，支持自动创建Schema。单击输入框后面的按钮可选择模式或表空间。
整库同步支持以下链路： MySQL > MRS Hudi、MySQL > DWS、MySQL > Kafka DMS Kafka > OBS 、Apache Kafka > MRS Kafka SQLServer > MRS Hudi、SQLServer > DWS PostgreSQL > DWS、PostgreSQL
Administrator、数据安全管理员或预置的工作空间管理员角色的用户）将无权再查看并使用该委托。 授权对象 用户 选择需要授权的用户。用户列表来自于工作空间用户。 用户组 选择需要授权的用户组。用户组列表来自于工作空间用户组。 角色 选择需要授权的角色。角色列表来自于系统预置角色和自定义角色。 图2 新建空间资源权限策略
参见配置SAP HANA源端参数。 云数据库 PostgreSQL 云数据库 SQL Server Microsoft SQL Server PostgreSQL 支持从云端的数据库服务导出数据。 这些非云服务的数据库，既可以是用户在本地数据中心自建的数据库，也可以是用户在ECS上部署的，还可以是第三方云上的数据库服务。
字段类型映射关系 MySQL与MRS Hudi字段类型映射 PostgreSQL与DWS字段类型映射 父主题： 数据集成（实时作业）
数据保护技术 收集范围 为了确保您的个人数据（例如用户名、密码、手机号码等）不被未经过认证、授权的实体或者个人获取，DataArts Studio对用户数据的存储和传输进行加密保护，以防止个人数据泄露，保证您的个人数据安全。 用户名：用于审批，消息通知，作为用户资产的属性存在，获取委托token的key值以及国际化。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
