检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
s Studio实例。 增量包大体可分为功能增量包与规格增量包，功能增量包用于拓展DataArts Studio实例的功能，规格增量包用于增加DataArts Studio实例的配额。当前DataArts Studio支持如下功能增量包： 批量数据迁移增量包 批量数据迁移集群提供
数据目录目前支持采集数据湖的资产，例如MRS Hive、DLI、DWS等，除此之外也支持采集以下数据源的元数据： 关系型数据库，如MySQL/PostgreSQL等（可使用RDS类型连接，采集其元数据） 云搜索服务CSS 图引擎服务GES 对象存储服务OBS MRS Hudi组件（MRS Hu
致单次请求时长增加，同时也可能导致缓存的数据增加进而影响内存使用。请综合考虑DWS规格和负载， 适当调整该值。 定时批写时间间隔 int 3 DWS单次写入的时间间隔，可在目的端配置中设置。 当缓存的数据达到定时批写时间间隔的条件，触发数据写入。 增大该值有助于增加单次写入时缓存
分区。 当使用TRUCATE模式：只清理分区下的数据文件。 当使用LOAD_OVERWRITE模式：覆盖写入到指定分区，仅支持指定单分区。 单分区：year=2020,location=sun; 多分区：['year=2020,location=sun', 'year=2021,location=earth']
Hive迁移作业长时间卡顿怎么办？ 使用CDM迁移数据由于字段类型映射不匹配导致报错怎么处理？ MySQL迁移时报错“JDBC连接超时”怎么办？ 创建了Hive到DWS类型的连接，进行CDM传输任务失败时如何处理？ 如何使用CDM服务将MySQL的数据导出成SQL文件，然后上传到OBS桶？ 如何处理CDM从OB
NoSQL：表格存储服务（CloudTable） 关系型数据库：云数据库 MySQL，云数据库 PostgreSQL，云数据库 SQL Server 搜索：Elasticsearch，云搜索服务（CSS） 云数据库 PostgreSQL MySQL 数据仓库：数据仓库服务（DWS），数据湖探索（DLI）
单击操作列“表属性编辑”可配置Hudi表属性，包含表类型，分区类型及表自定义属性。 图9 Hudi单表表属性配置 表类型：Hudi的表类型，可选MERGE_ON_READ和COPY_ON_WRITE。 分区类型：Hudi表分区类型，可选无分区、时间分区、自定义分区。 其中时间分区需要用户指定一个源端表名，选择一个时间转换格式。
关系数据库连接 介绍 通过JDBC连接，可以对以下关系型数据库抽取、加载数据： 云数据库 PostgreSQL 云数据库 SQL Server PostgreSQL Microsoft SQL Server 连接样例 { "links": [ {
TE模式只清理分区下的数据文件，不删除分区。 LOAD：写入前不做任何处理。 LOAD_OVERWRITE：将生成一个临时目录，目录名为:表名_UUID，使用hive的load overwrite语法将临时目录加载到hive表中。 LOAD_OVERWRITE 分区过滤条件 TR
说明： 抽取分区字段支持TINYINT、SMALLINT、INTEGER、BIGINT、REAL、FLOAT、DOUBLE、NUMERIC、DECIMAL、BIT、BOOLEAN、DATE、TIME、TIMESTAMP类型，建议该字段带有索引。 id 分片字段含有空值 “按表分区抽取”
NoSQL：表格存储服务（CloudTable） 关系型数据库：云数据库 MySQL，云数据库 PostgreSQL，云数据库 SQL Server 搜索：Elasticsearch，云搜索服务（CSS） 云数据库 PostgreSQL MySQL 数据仓库：数据仓库服务（DWS），数据湖探索（DLI）
对象存储：对象存储服务（OBS） 关系型数据库：云数据库 MySQL，云数据库 PostgreSQL，云数据库 SQL Server 搜索：Elasticsearch 公测中：云搜索服务（CSS），表格存储服务（CloudTable） 云数据库 PostgreSQL MySQL 数据仓库：数据仓库服务（DWS）
yyyy：表示4位的年份，取值为业务日期的年份。 yy：表示2位的年份，取值为业务日期的年份后两位。 mm：表示月份，取值为业务日期的月份。 dd：表示天，取值为业务日期的天。 取N年前、N月前、N天前的时间数据请参考表1，参数只能精确到年月日，不支持小时、分钟、秒的写法。 表1 业务日期参数获取说明 业务日期场景
购买作业节点调度次数/天增量包用于增加配额，详情请参见购买作业节点调度次数/天增量包。 二. 您可通过如下方式排查哪些作业调度节点次数较高，然后适当调整调度周期或停止调度即可。 在数据开发模块控制台的左侧导航栏，选择 “运维调度 > 实例监控”，日期选择当天，查看哪些作业调度较多。
Hudi在commit时，会进行分区扫描操作，默认是单并发操作，当Hudi单次commit涉及的分区较多时，考虑增大该值以提升commit速度。 单次Commit的分区数量 <= 10，推荐值5。 单次Commit的分区数量 <= 25，推荐值10。 单次Commit的分区数量 <= 50，推荐值20。
入前执行TRUNCATE语句清空填写的分区数据，再进行LOAD写入数据。 LOAD：写入前不做任何处理。 INSERT_OVERWRITE：对数据进行覆盖写入。 LOAD 分区 分区信息，表为分区表的时候，写数据的时候，可以选择需要写入的分区数据。 例如：year=2020,location=sun。
是否永久运行。 fromJobConfig.maxPollRecords 否 String 每次向DIS请求数据限制最大请求记录数。 fromJobConfig.shardId 是 String DIS分区ID，该参数支持输入多个分区ID，使用“,”分隔。 fromJobConfig.dataFormat
DM上创建MySQL连接时输入这个地址和端口）。 映射地址、映射端口：配置为内网MySQL的地址和端口。 图2 配置端口映射 单击“增加”，添加端口映射关系。 单击“开始映射”，这时才会真正开始映射，接收数据包。 至此，就可以在CDM上通过弹性IP读取本地内网MySQL的数据，然后导入到云服务DWS中。
取范围的Where子句，不配置时抽取整表。 如果要迁移的表中没有Where子句的字段，迁移失败。 该参数支持配置为时间宏变量，实现抽取指定日期的数据，详细说明请参见关系数据库增量迁移。 说明： 如果配置了时间宏变量，通过DataArts Studio数据开发调度CDM迁移作业时，
需要在DLI中新建SQL队列。 cdm 数据库名称 写入数据的数据库名称。 dli 表名 写入数据的表名。 car_detail 分区 用于抽取分区的信息。是否支持配置以界面实际为准。 year=2020,location=sun 父主题： 配置作业源端参数
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
