华为云用户手册

系统函数 表4 系统函数 变更类型 序号 名称 变更描述 新增 1 dbms_redact.add_policy dbms_redact.alter_policy dbms_redact.enable_policy dbms_redact.disable_policy dbms_redact.drop_policy 新增脱敏策略。 更改脱敏策略信息，包括对一个表对象增加脱敏列、修改脱敏列脱敏方式等。 开启、关闭脱敏策略。 删除脱敏策略。 2 pgxc_get_workload_sql_count 提供当前集群所有CN上所有Workload控制组内执行的SELECT/UPDATE/INSERT/DELETE语句的计数统计结果以及DDL、DML、DCL类型语句的计数统计结果。 3 pgxc_get_workload_sql_elapse_time 提供当前集群所有CN上所有Workload控制组内执行的SELECT/UPDATE/INSERT/DELETE语句的响应时间统计结果。 4 get_instr_unique_sql 提供当前节点中收集的Unique SQL的信息。 5 reset_instr_unique_sql(cstring, cstring, INT8) 清理已收集的Unique SQL信息。 6 pgxc_get_instr_unique_sql 提供集群中所有CN上收集的Unique SQL的完整信息。 7 pg_check_authid 根据用户oid检查用户是否存在。 修改 8 pg_stat_get_sql_count 新增提供当前节点中所有用户执行的SELECT/UPDATE/INSERT/DELETE/MERGE INTO语句的响应时间的统计结果以及DDL、DML、DCL语句的计数结果。 9 pgxc_get_sql_count 新增提供所有节点中所有用户执行的SELECT/UPDATE/INSERT/DELETE/MERGE INTO语句的响应时间的统计结果以及DDL、DML、DCL语句的计数结果。

SQL语法 表1 SQL语法 变更类型 序号 名称 变更描述 新增 1 设置临时表空间限额 新增语法CREATE USER/ROLE user1 …TEMP SPACE ‘5GB'，进行临时空间配额设置。 2 修改临时表空间限额 新增语法ALTER USER user1 TEMP SPACE ‘5GB’;，进行临时空间配额修改。 3 设置中间计算结果集落盘空间限额 新增语法CREATE USER/ROLE user1 … SPILL SPACE ‘unlimited;，进行中间结果集临时空间配额设置。 4 修改中间计算结果集落盘空间限额 新增语法ALTER USER user1 SPILL SPACE ‘5GB’;，进行中间结果集临时空间配额设置。 5 ALTER TABLE 新增语法：alter table modify not null [enable] / alter table modify null。 6 CREATE INDEX 新增语法：创建索引时支持索引名带schema。 7 ALTER SEQUENCE 新增语法：ALTER SEQUENCE。 8 CREATE SYNONYM 新增语法：CREATE [OR REPLACE] SYNONYM syn_name FOR obj_name。 9 DROP SYNONYM 新增语法：DROP SYNONYM IF EXISTS syn_name。 10 ALTER SYNONYM 新增语法：ALTER SYNONYM syn_name OWNER TO newowner。 11 CREATE USER/ROLE with ldap password disable 支持AD认证，创建用户时指定用户认证类型是ldap。 12 ALTER USER/ROLEwith ldap password disable 支持AD认证，修改用户认证类型为ldap。 13 copy容错表参数选项增加 添加log errors data选项以支持用户自定义选择是否。 填充rawrecord字段。 修改 14 GIN索引 300场景下禁止GIN索引。 删除 15 ALTER TABLE分区表exchange with unlogg表 禁止分区表与unlogged表做exchange交换。

表达式转换 使用JSP表达式语言（Expression Language）对当前字段或整行数据进行转换。JSP表达式语言可以用来创建算术和逻辑表达式。在表达式内可以使用整型数，浮点数，字符串，常量true、false和null。 表达式支持以下两个环境变量： value：当前字段值。 row：当前行，数组类型。 表达式支持的工具类用法罗列如下，未列出即表示不支持： 如果当前字段为字符串类型，将字符串全部转换为小写，例如将“aBC”转换为“abc”。 表达式：StringUtils.lowerCase(value) 将当前字段的字符串全部转为大写。 表达式：StringUtils.upperCase(value) 如果想将第1个日期字段格式从“2018-01-05 15:15:05”转换为“20180105”。 表达式：DateUtils.format(DateUtils.parseDate(row[0],"yyyy-MM-dd HH:mm:ss"),"yyyyMMdd") 如果想将时间戳转换成“yyyy-MM-dd hh:mm:ss”格式的日期字符串的类型，例如字段值为“1701312046588”，转化后为“2023-11-30 10:40:46”。 表达式：DateUtils.format(NumberUtils.toLong(value),"yyyy-MM-dd HH:mm:ss") 如果想将“yyyy-MM-dd hh:mm:ss”格式的日期字符串转换成时间戳的类型。 表达式：DateUtils.getTime(DateUtils.parseDate(value,"yyyy-MM-dd hh:mm:ss")) 如果当前字段值为“yyyy-MM-dd”格式的日期字符串，需要截取年，例如字段值为“2017-12-01”，转换后为“2017”。 表达式：StringUtils.substringBefore(value,"-") 如果当前字段值为数值类型，转换后值为当前值的两倍。 表达式：value*2 如果当前字段值为“true”，转换后为“Y”，其它值则转换后为“N”。 表达式：value=="true"?"Y":"N" 如果当前字段值为字符串类型，当为空时，转换为“Default”，否则不转换。 表达式：empty value? "Default":value 如果想将日期字段格式从“2018/01/05 15:15:05”转换为“2018-01-05 15:15:05”。 表达式：DateUtils.format(DateUtils.parseDate(value,"yyyy/MM/dd HH:mm:ss"),"yyyy-MM-dd HH:mm:ss") 获取一个36位的UUID（Universally Unique Identifier，通用唯一识别码）。 表达式：CommonUtils.randomUUID() 如果当前字段值为字符串类型，将首字母转换为大写，例如将“cat”转换为“Cat”。 表达式：StringUtils.capitalize(value) 如果当前字段值为字符串类型，将首字母转换为小写，例如将“Cat”转换为“cat”。 表达式：StringUtils.uncapitalize(value) 如果当前字段值为字符串类型，使用空格填充为指定长度，并且将字符串居中，当字符串长度不小于指定长度时不转换，例如将“ab”转换为长度为4的“ab”。 表达式：StringUtils.center(value,4) 删除字符串末尾的一个换行符（包括“\n”、“\r”或者“\r\n”），例如将“abc\r\n\r\n”转换为“abc\r\n”。 表达式：StringUtils.chomp(value) 如果字符串中包含指定的字符串，则返回布尔值true，否则返回false。例如“abc”中包含“a”，则返回true。 表达式：StringUtils.contains(value,"a") 如果字符串中包含指定字符串的任一字符，则返回布尔值true，否则返回false。例如“zzabyycdxx”中包含“z”或“a”任意一个，则返回true。 表达式：StringUtils.containsAny(value,"za") 如果字符串中不包含指定的所有字符，则返回布尔值true，包含任意一个字符则返回false。例如“abz”中包含“xyz”里的任意一个字符，则返回false。 表达式：StringUtils.containsNone(value,"xyz") 如果当前字符串只包含指定字符串中的字符，则返回布尔值true，包含任意一个其它字符则返回false。例如“abab”只包含“abc”中的字符，则返回true。 表达式：StringUtils.containsOnly(value,"abc") 如果字符串为空或null，则转换为指定的字符串，否则不转换。例如将空字符转换为null。 表达式：StringUtils.defaultIfEmpty(value,null) 如果字符串以指定的后缀结尾（包括大小写），则返回布尔值true，否则返回false。例如“abcdef”后缀不为null，则返回false。 表达式：StringUtils.endsWith(value,null) 如果字符串和指定的字符串完全一样（包括大小写），则返回布尔值true，否则返回false。例如比较字符串“abc”和“ABC”，则返回false。 表达式：StringUtils.equals(value,"ABC") 从字符串中获取指定字符串的第一个索引，没有则返回整数-1。例如从“aabaabaa”中获取“ab”的第一个索引1。 表达式：StringUtils.indexOf(value,"ab") 从字符串中获取指定字符串的最后一个索引，没有则返回整数-1。例如从“aFkyk”中获取“k”的最后一个索引4。 表达式：StringUtils.lastIndexOf(value,"k") 从字符串中指定的位置往后查找，获取指定字符串的第一个索引，没有则转换为“-1”。例如“aabaabaa”中索引3的后面，第一个“b”的索引是5。 表达式：StringUtils.indexOf(value,"b",3) 从字符串获取指定字符串中任一字符的第一个索引，没有则返回整数-1。例如从“zzabyycdxx”中获取“z”或“a”的第一个索引0。 表达式：StringUtils.indexOfAny(value,"za") 如果字符串仅包含Unicode字符，返回布尔值true，否则返回false。例如“ab2c”中包含非Unicode字符，返回false。 表达式：StringUtils.isAlpha(value) 如果字符串仅包含Unicode字符或数字，返回布尔值true，否则返回false。例如“ab2c”中仅包含Unicode字符和数字，返回true。 表达式：StringUtils.isAlphanumeric(value) 如果字符串仅包含Unicode字符、数字或空格，返回布尔值true，否则返回false。例如“ab2c”中仅包含Unicode字符和数字，返回true。 表达式：StringUtils.isAlphanumericSpace(value) 如果字符串仅包含Unicode字符或空格，返回布尔值true，否则返回false。例如“ab2c”中包含Unicode字符和数字，返回false。 表达式：StringUtils.isAlphaSpace(value) 如果字符串仅包含ASCII可打印字符，返回布尔值true，否则返回false。例如“!ab-c~”返回true。 表达式：StringUtils.isAsciiPrintable(value) 如果字符串为空或null，返回布尔值true，否则返回false。 表达式：StringUtils.isEmpty(value) 如果字符串中仅包含Unicode数字，返回布尔值true，否则返回false。 表达式：StringUtils.isNumeric(value) 获取字符串最左端的指定长度的字符，例如获取“abc”最左端的2位字符“ab”。 表达式：StringUtils.left(value,2) 获取字符串最右端的指定长度的字符，例如获取“abc”最右端的2位字符“bc”。 表达式：StringUtils.right(value,2) 将指定字符串拼接至当前字符串的左侧，需同时指定拼接后的字符串长度，如果当前字符串长度不小于指定长度，则不转换。例如将“yz”拼接到“bat”左侧，拼接后长度为8，则转换后为“yzyzybat”。 表达式：StringUtils.leftPad(value,8,"yz") 将指定字符串拼接至当前字符串的右侧，需同时指定拼接后的字符串长度，如果当前字符串长度不小于指定长度，则不转换。例如将“yz”拼接到“bat”右侧，拼接后长度为8，则转换后为“batyzyzy”。 表达式：StringUtils.rightPad(value,8,"yz") 如果当前字段为字符串类型，获取当前字符串的长度，如果该字符串为null，则返回0。 表达式：StringUtils.length(value) 如果当前字段为字符串类型，删除其中所有的指定字符串，例如从“queued”中删除“ue”，转换后为“qd”。 表达式：StringUtils.remove(value,"ue") 如果当前字段为字符串类型，移除当前字段末尾指定的子字符串。指定的子字符串若不在当前字段的末尾，则不转换，例如移除当前字段“www.domain.com”后的“.com”。 表达式：StringUtils.removeEnd(value,".com") 如果当前字段为字符串类型，移除当前字段开头指定的子字符串。指定的子字符串若不在当前字段的开头，则不转换，例如移除当前字段“www.domain.com”前的“www.”。 表达式：StringUtils.removeStart(value,"www.") 如果当前字段为字符串类型，替换当前字段中所有的指定字符串，例如将“aba”中的“a”用“z”替换，转换后为“zbz”。 表达式：StringUtils.replace(value,"a","z") 如果当前字段为字符串类型，一次替换字符串中的多个字符，例如将字符串“hello”中的“h”用“j”替换，“o”用“y”替换，转换后为“jelly”。 表达式：StringUtils.replaceChars(value,"ho","jy") 如果字符串以指定的前缀开头（区分大小写），则返回布尔值true，否则返回false，例如当前字符串“abcdef”以“abc”开头，则返回true。 表达式：StringUtils.startsWith(value,"abc") 如果当前字段为字符串类型，去除字段中首、尾处所有指定的字符，例如去除“abcyx”中首尾所有的“x”、“y”、“z”和“b”，转换后为“abc”。 表达式：StringUtils.strip(value,"xyzb") 如果当前字段为字符串类型，去除字段末尾所有指定的字符，例如去除当前字段末尾的"abc"字符串。 表达式：StringUtils.stripEnd(value,"abc") 如果当前字段为字符串类型，去除字段开头所有指定的字符，例如去除当前字段开头的所有空格。 表达式：StringUtils.stripStart(value,null) 如果当前字段为字符串类型，获取字符串指定位置后（索引从0开始，包括指定位置的字符）的子字符串，指定位置如果为负数，则从末尾往前计算位置，末尾第一位为-1。例如获取“abcde”第2个字符（即c）及之后的字符串，则转换后为“cde”。 表达式：StringUtils.substring(value,2) 如果当前字段为字符串类型，获取字符串指定区间（索引从0开始，区间起点包括指定位置的字符，区间终点不包含指定位置的字符）的子字符串，区间位置如果为负数，则从末尾往前计算位置，末尾第一位为-1。例如获取“abcde”第2个字符（即c）及之后、第4个字符（即e）之前的字符串，则转换后为“cd”。 表达式：StringUtils.substring(value,2,4) 如果当前字段为字符串类型，获取当前字段里第一个指定字符后的子字符串。例如获取“abcba”中第一个“b”之后的子字符串，转换后为“cba”。 表达式：StringUtils.substringAfter(value,"b") 如果当前字段为字符串类型，获取当前字段里最后一个指定字符后的子字符串。例如获取“abcba”中最后一个“b”之后的子字符串，转换后为“a”。 表达式：StringUtils.substringAfterLast(value,"b") 如果当前字段为字符串类型，获取当前字段里第一个指定字符前的子字符串。例如获取“abcba”中第一个“b”之前的子字符串，转换后为“a”。 表达式：StringUtils.substringBefore(value,"b") 如果当前字段为字符串类型，获取当前字段里最后一个指定字符前的子字符串。例如获取“abcba”中最后一个“b”之前的子字符串，转换后为“abc”。 表达式：StringUtils.substringBeforeLast(value,"b") 如果当前字段为字符串类型，获取嵌套在指定字符串之间的子字符串，没有匹配的则返回null。例如获取“tagabctag”中“tag”之间的子字符串，转换后为“abc”。 表达式：StringUtils.substringBetween(value,"tag") 如果当前字段为字符串类型，删除当前字符串两端的控制字符（char≤32），例如删除字符串前后的空格。 表达式：StringUtils.trim(value) 将当前字符串转换为字节，如果转换失败，则返回0。 表达式：NumberUtils.toByte(value) 将当前字符串转换为字节，如果转换失败，则返回指定值，例如指定值配置为1。 表达式：NumberUtils.toByte(value,1) 将当前字符串转换为Double数值，如果转换失败，则返回0.0d。 表达式：NumberUtils.toDouble(value) 将当前字符串转换为Double数值，如果转换失败，则返回指定值，例如指定值配置为1.1d。 表达式：NumberUtils.toDouble(value,1.1d) 将当前字符串转换为Float数值，如果转换失败，则返回0.0f。 表达式：NumberUtils.toFloat(value) 将当前字符串转换为Float数值，如果转换失败，则返回指定值，例如配置指定值为1.1f。 表达式：NumberUtils.toFloat(value,1.1f) 将当前字符串转换为Int数值，如果转换失败，则返回0。 表达式：NumberUtils.toInt(value) 将当前字符串转换为Int数值，如果转换失败，则返回指定值，例如配置指定值为1。 表达式：NumberUtils.toInt(value,1) 将字符串转换为Long数值，如果转换失败，则返回0。 表达式：NumberUtils.toLong(value) 将当前字符串转换为Long数值，如果转换失败，则返回指定值，例如配置指定值为1L。 表达式：NumberUtils.toLong(value,1L) 将字符串转换为Short数值，如果转换失败，则返回0。 表达式：NumberUtils.toShort(value) 将当前字符串转换为Short数值，如果转换失败，则返回指定值，例如配置指定值为1。 表达式：NumberUtils.toShort(value,1) 将当前IP字符串转换为Long数值，例如将“10.78.124.0”转换为LONG数值是“172915712”。 表达式：CommonUtils.ipToLong(value) 从网络读取一个IP与物理地址映射文件，并存放到Map集合，这里的URL是IP与地址映射文件存放地址，例如“http://10.114.205.45:21203/sqoop/IpList.csv”。 表达式：HttpsUtils.downloadMap("url") 将IP与地址映射对象缓存起来并指定一个key值用于检索，例如“ipList”。 表达式：CommonUtils.setCache("ipList",HttpsUtils.downloadMap("url")) 取出缓存的IP与地址映射对象。 表达式：CommonUtils.getCache("ipList") 判断是否有IP与地址映射缓存。 表达式：CommonUtils.cacheExists("ipList") 根据IP取出对应的详细地址：国家_省份_城市_运营商，例如“1xx.78.124.0”对应的地址为“中国_广东_深圳_电信”，取不到对应地址则默认“**_**_**_**”。如果需要，可通过StringUtil类表达式对地址进行进一步拆分。 表达式：CommonUtils.getMapValue(CommonUtils.ipToLong(value),CommonUtils.cacheExists("ipLis")?CommonUtils.getCache("ipLis"):CommonUtils.setCache("ipLis",HttpsUtils.downloadMap("url"))) 根据指定的偏移类型（month/day/hour/minute/second）及偏移量（正数表示增加，负数表示减少），将指定格式的时间转换为一个新时间，例如将“2019-05-21 12:00:00”增加8个小时。 表达式：DateUtils.getCurrentTimeByZone("yyyy-MM-dd HH:mm:ss",value, "hour", 8) 如果value值为空或者null时，则返回字符串"aaa"，否则返回value。 表达式：StringUtils.defaultIfEmpty(value,"aaa")

约束限制 作业源端开启“使用SQL语句”参数时不支持配置转换器。 如果在字段映射界面，通过获取样值的方式无法获得所有列（例如从HBase/CloudTable/MongoDB导出数据时， CDM 有较大概率无法获得所有列），则可以单击后选择“添加新字段”来手动增加，确保导入到目的端的数据完整。 关系数据库、Hive、 MRS Hudi及 DLI 做源端时，不支持获取样值功能。 SQLServer作为目的端数据源时，不支持timestamp类型字段的写入，需修改为其他时间类型字段写入（如datetime）。 当作业源端为OBS、迁移 CS V文件时，并且配置“解析首行为列名”参数的场景下显示列名。 当使用二进制格式进行文件到文件的迁移时，没有配置字段转换器这一步。 自动创表场景下，需在目的端表中提前手动新增字段，再在字段映射里新增字段。 添加完字段后，新增的字段在界面不显示样值，不会影响字段值的传输，会将字段值直接写入目的端。 如果字段映射关系不正确，您可以通过拖拽字段、单击对字段批量映射两种方式来调整字段映射关系。 创建表达式转换器时，表达式的功能是对该字段的数据进行处理，故不建议使用时间宏，如需使用，请根据以下场景处理（源端是文件类的配置时仅支持方式一）： 方式一：新建表达式转换器时，表达式需要用''包围。 ${dateformat(yyyy-MM-dd)}不加引号使用时，解析成2017-10-16之后还会进行运算，将'-'识别为减号，导致结果为1991，须使用'${dateformat(yyyy-MM-dd)}'，即'2017-10-16'。 方式二：源字段中新增自定义字段，在样值中填写时间宏变量，重新进行字段映射处理。 如果是导入到 数据仓库 服务（DWS），则还需在目的字段中选择分布列，建议按如下顺序选取分布列： 有主键可以使用主键作为分布列。 多个数据段联合做主键的场景，建议设置所有主键作为分布列。 在没有主键的场景下，如果没有选择分布列，DWS会默认第一列作为分布列，可能会有数据倾斜风险。

OpenSource ClickHouse数据连接参数说明 表1 OpenSource ClickHouse数据连接 参数 是否必选 说明 数据连接类型 是 OpenSource ClickHouse连接固定选择为 MapReduce服务 （OpenSource ClickHouse）。 数据连接名称 是 数据连接的名称，只能包含字母、数字、下划线和中划线，且长度不超过100个字符。 标签 否 标识数据连接的属性。设置标签后，便于统一管理。 说明： 标签的名称，只能包含中文、英文字母、数字和下划线，不能以下划线开头，且长度不能超过100个字符。 适用组件 是 选择此连接适用的组件。勾选组件后，才能在相应组件内使用本连接。 说明： 当开启数据集成作业特性后，可勾选数据集成组件，勾选后在数据开发组件创建集成作业时支持选择本数据连接。 离线处理集成作业功能当前需申请白名单后才能使用。如需使用该特性，请联系客服或技术支持人员。 基础与网络连通配置 IP 是 填写ClickHouseServer所在节点IP。 端口 是 默认使用ClickHouseServer的配置参数http_port，用于接收JDBC请求的端口。 KMS密钥 是 通过KMS加解密数据源认证信息，选择KMS中已创建的密钥。 绑定Agent 是 选择CDM集群作为网络代理，必须和ClickHouseServer网络互通才可以成功创建连接。 说明： CDM集群作为管理中心数据连接Agent时，单集群的并发活动线程最大为200。即当多个数据连接共用同一Agent时，通过这些数据连接提交SQL脚本、Shell脚本、Python脚本等任务的同时运行上限为200，超出的任务将排队等待。建议您按照业务量情况规划多个Agent分担压力。 数据集成配置 数据库名称 是 配置为要连接的数据库名称。 例如：dbname 驱动版本 否 选择ClickHouse驱动版本。 CLICKHOUSE_0_3_1：适用于连接ClickHouse 20.7以下版本，此驱动版本不支持多IP连接数据库服务器。 CLICKHOUSE_0_4_2：适用于连接ClickHouse 20.7及以上版本，支持多IP连接数据库服务器。 说明： 选择CLICKHOUSE_0_4_2驱动版本时，支持的timestamp数据的时间范围最小为1970-01-01 08:00:00。 CLICKHOUSE_0_4_2的驱动版本仅支持ClickHouse 20.7及以上的服务器版本。 选择CLICKHOUSE_0_4_2驱动版本时，字段名不能包含()，其他版本不受限制。 引用符号 否 连接引用表名或列名时的分隔符号，参考对应数据库的产品文档进行配置。默认为"。 单次提交行数 否 指定单次批量提交的行数。默认为10000。 连接属性 否 连接属性，包含属性名称和属性值。 例如： 1. socket_timeout: socket连接超时的时间，单位为毫秒。 2. connection_timeout：连接超时，单位为毫秒。 3. dataTransferTimeout：数据传输超时，单位为毫秒。 数据源认证及其他功能配置 用户名 是 ClickHouseServer用户名。 密码 是 ClickHouseServer的访问密码。 父主题： 配置 DataArts Studio 数据连接参数

Elasticsearch数据连接参数说明 表1 Elasticsearch连接 参数 是否必选 说明 数据连接类型 是 Elasticsearch连接固定选择为Elasticsearch。 数据连接名称 是 数据连接的名称，只能包含字母、数字、下划线和中划线，且长度不超过100个字符。 标签 否 标识数据连接的属性。设置标签后，便于统一管理。 说明： 标签的名称，只能包含中文、英文字母、数字和下划线，不能以下划线开头，且长度不能超过100个字符。 适用组件 是 选择此连接适用的组件。勾选组件后，才能在相应组件内使用本连接。 说明： 当开启数据集成作业特性后，可勾选数据集成组件，勾选后在数据开发组件创建集成作业时支持选择本数据连接。 离线处理集成作业功能当前需申请白名单后才能使用。如需使用该特性，请联系客服或技术支持人员。 基础与网络连通配置 Elasticsearch服务器列表 是 一个或多个通过分号分割的服务器列表（服务器 域名 或IP地址:服务器端口）。 例如：192.168.0.1:9200;192.168.0.2:9200。 KMS密钥 是 和通过KMS加解密数据源认证信息，选择KMS中已创建的密钥。 KMS是一种安全、可靠、简单易用的密钥托管服务，对密钥的所有操作都会进行访问控制及日志跟踪，提供所有密钥的使用记录，满足审计和合规性要求。 绑定Agent 是 DataArts无法直接与非全托管服务进行连接，需要提供DataArts Studio与非全托管服务通信的代理。CDM集群可以提供通信代理服务，请选择一个CDM集群，如果没有可用的CDM集群，请先通过数据集成增量包进行创建。 当多个数据连接共用同一Agent时，通过这些数据连接提交SQL作业、Shell脚本、Python脚本等任务的同时运行上限为200。 数据集成配置 安全模式认证 是 是否安全模式认证。 https访问 是 开启https访问。 Https协议提升了集群安全性，同时集群性能会下降。 连接超时时间 否 连接超时时间，单位ms。默认10000。 超时时间 否 超时时间，单位ms。默认60000。 开启GZIP压缩 否 开启gzip 压缩，使用的时候需要在es 节点上将配置http.compression设置为true。 数据源认证及其他功能配置 用户名 是 连接Elasticsearch的用户名。 密码 是 连接Elasticsearch的密码。 父主题： 配置DataArts Studio数据连接参数

离线处理集成作业概述 离线处理集成作业作为数据开发的一个作业类型，支持跨集群下发数据迁移作业，实现常用的批作业迁移能力。 相比于传统的依靠CDM集群进行生命周期管理CDM迁移作业，离线处理集成作业依靠数据开发组件的生命周期管理，由数据开发进行集成作业的统一调度和CDM集群资源的统一支配，作业运行可靠性更高、使用体验更佳 离线处理集成作业功能当前需申请白名单后才能使用。如需使用该特性，请联系客服或技术支持人员。 图1 离线处理集成作业迁移原理 父主题： 离线处理集成作业开发

Apache HDFS数据连接参数说明 表1 Apache HDFS连接 参数 是否必选 说明 数据连接类型 是 Apache HDFS连接固定选择为Apache HDFS。 数据连接名称 是 数据连接的名称，只能包含字母、数字、下划线和中划线，且长度不超过100个字符。 标签 否 标识数据连接的属性。设置标签后，便于统一管理。 说明： 标签的名称，只能包含中文、英文字母、数字和下划线，不能以下划线开头，且长度不能超过100个字符。 适用组件 是 选择此连接适用的组件。勾选组件后，才能在相应组件内使用本连接。 说明： 当开启数据集成作业特性后，可勾选数据集成组件，勾选后在数据开发组件创建集成作业时支持选择本数据连接。 离线处理集成作业功能当前需申请白名单后才能使用。如需使用该特性，请联系客服或技术支持人员。 基础与网络连通配置 是否使用集群配置 是 此参数用于选择用户已经创建好的集群配置。 您可以通过使用集群配置，简化Hadoop连接参数配置。默认：关闭。 URI 是 是否使用集群配置开关打开时显示该参数。 表示NameNode URI地址。可以填写为：hdfs://namenode实例的ip:8020。 IP与主机名映射 否 是否使用集群配置开关打开时显示该参数。 运行模式选择“EMBEDDED”、“STANDALONE”时，该参数有效。 如果HDFS配置文件使用主机名，需要配置IP与主机的映射。格式：IP与主机名之间使用空格分隔，多对映射使用分号或回车换行分隔。 KMS密钥 是 “数据集成”参数开启时，呈现此参数。 通过KMS加密和解密用户密码和密钥对的密码，选择KMS中已创建的密钥。 绑定Agent 是 “数据集成”参数开启时，呈现此参数。 通过代理连接时，需要选择CDM集群，CDM集群提供Agent。此处支持最多选择3个Agent，以提升可靠性。 数据集成配置 配置文件路径 是 “是否使用集群配置”参数开启时，呈现此参数。集群配置文件的OBS存放路径。 keytab文件路径 是 认证类型为KERBEROS时显示该参数。 配置keytab文件的OBS存放路径。 Principal名称 是 认证类型为KERBEROS时显示该参数。 Kerberos认证用户名。kerberos集群时，需要上传相应的keytab文件。 属性配置 否 “数据集成”参数开启时，呈现此参数。可选参数，单击“添加”可增加多个指定数据源的JDBC连接器的属性，参考对应数据库的JDBC连接器说明文档进行配置。 常见配置举例如下： connectTimeout=360000与socketTimeout=360000：迁移数据量较大、或通过查询语句检索全表时，会由于连接超时导致迁移失败。此时可自定义连接超时时间与socket超时时间（单位ms），避免超时导致失败。 useCursorFetch=false：CDM作业默认打开了JDBC连接器与关系型数据库通信使用二进制协议开关，即useCursorFetch=true。部分第三方可能存在兼容问题导致迁移时间转换出错，可以关闭此开关；开源MySQL数据库支持useCursorFetch参数，无需对此参数进行设置。 数据源认证及其他功能配置 认证类型 是 访问集群的认证类型： SIMPLE：非安全模式选择Simple鉴权。 KERBEROS：安全模式选择Kerberos鉴权。 运行模式 是 选择HDFS连接的运行模式： EMBEDDED：连接实例与CDM运行在一起，该模式性能较好。 STANDALONE：连接实例运行在独立进程。如果CDM需要对接多个Hadoop数据源（MRS、Hadoop或CloudTable），并且既有KERBEROS认证模式又有SIMPLE认证模式，只能使用STANDALONE模式或者配置不同的Agent。 说明： STANDALONE模式主要是用来解决版本冲突问题的运行模式。当同一种数据连接的源端或者目的端连接器的版本不一致时，存在jar包冲突的情况，这时需要将源端或目的端放在STANDALONE进程里，防止冲突导致迁移失败。 父主题： 配置DataArts Studio数据连接参数

操作场景 作业参数配置完成后，将进行字段映射的配置，您可以通过字段映射界面的可自定义新增字段。 如果是文件类数据源（FTP/SFTP/HDFS/OBS）之间相互迁移数据，且源端“文件格式”配置为“二进制格式”（即不解析文件内容直接传输），则没有字段映射这一步骤。 其他场景下，CDM会自动匹配源端和目的端数据表字段，需用户检查字段映射关系和时间格式是否正确，例如：源字段类型是否可以转换为目的字段类型。 您可以单击字段映射界面的选择“添加新字段”自定义新增字段，通常用于标记数据库来源，以确保导入到目的端数据的完整性。 图1 字段映射 目前支持以下类型自定义字段： 常量 常量参数即参数值是固定的参数，不需要重新配置值。例如“lable”=“friends”用来标识常量值。 变量 您可以使用时间宏、表名宏、版本宏等变量来标记数据库来源信息。变量的语法：${variable}，其中“variable”指的是变量。例如“input_time”=“${timestamp()}”用来标识当前时间的时间戳。 表达式 您可以使用表达式语言根据运行环境动态生成参数值。表达式的语法：#{expr}，其中“expr”指的是表达式。例如“time”=“#{DateUtil.now()}”用来标识当前日期字符串。

约束限制 如果在字段映射界面，CDM通过获取样值的方式无法获得所有列（例如从HBase/CloudTable/MongoDB导出数据时，CDM有较大概率无法获得所有列），则可以单击后选择“添加新字段”来手动增加，确保导入到目的端的数据完整。 关系数据库、Hive、MRS Hudi及DLI做源端时，不支持获取样值功能。 SQLServer作为目的端数据源时，不支持timestamp类型字段的写入，需修改为其他时间类型字段写入（如datetime）。 当作业源端为OBS、迁移CSV文件时，并且配置“解析首行为列名”参数的场景下显示列名。 当使用二进制格式进行文件到文件的迁移时，没有字段映射这一步。 自动创表场景下，需在目的端表中提前手动新增字段，再在字段映射里新增字段。 添加完字段后，新增的字段在界面不显示样值，不会影响字段值的传输，CDM会将字段值直接写入目的端。 如果字段映射关系不正确，您可以通过拖拽字段、单击对字段批量映射两种方式来调整字段映射关系。 如果是导入到数据仓库服务（DWS），则还需在目的字段中选择分布列，建议按如下顺序选取分布列： 有主键可以使用主键作为分布列。 多个数据段联合做主键的场景，建议设置所有主键作为分布列。 在没有主键的场景下，如果没有选择分布列，DWS会默认第一列作为分布列，可能会有数据倾斜风险。 如CDM不支持源端迁移字段类型，请参见不支持数据类型转换规避指导将字段类型转换为CDM支持的类型。

MongoDB数据连接参数说明 表1 MongoDB数据连接 参数 是否必选 说明 数据连接类型 是 MongoDB连接固定选择为MongoDB。 数据连接名称 是 数据连接的名称，只能包含字母、数字、下划线和中划线，且长度不超过100个字符。 标签 否 标识数据连接的属性。设置标签后，便于统一管理。 说明： 标签的名称，只能包含中文、英文字母、数字和下划线，不能以下划线开头，且长度不能超过100个字符。 适用组件 是 选择此连接适用的组件。勾选组件后，才能在相应组件内使用本连接。 说明： 当开启数据集成作业特性后，可勾选数据集成组件，勾选后在数据开发组件创建集成作业时支持选择本数据连接。 离线处理集成作业功能当前需申请白名单后才能使用。如需使用该特性，请联系客服或技术支持人员。 基础与网络连通配置 服务器列表 是 一个或多个通过逗号分割的服务器列表（服务器域名或IP地址:服务器端口）。 例如: 192.168.0.1:27017,192.168.0.2:27017。 KMS密钥 是 通过KMS加解密数据源认证信息，选择KMS中已创建的密钥。 KMS是一种安全、可靠、简单易用的密钥托管服务，对密钥的所有操作都会进行访问控制及日志跟踪，提供所有密钥的使用记录，满足审计和合规性要求。 绑定Agent 是 DataArts无法直接与非全托管服务进行连接，需要提供DataArts Studio与非全托管服务通信的代理。CDM集群可以提供通信代理服务，请选择一个CDM集群，如果没有可用的CDM集群，请先通过数据集成增量包进行创建。 当多个数据连接共用同一Agent时，通过这些数据连接提交SQL作业、Shell脚本、Python脚本等任务的同时运行上限为200。 数据集成配置 数据库名称 是 要连接的数据库。 直连模式 否 是否直连，适用于主节点网络通，副本节点网络不通场景。 属性配置 否 自定义连接属性，当前支持socketTimeout，maxWaitTime，connectTimeout，serverSelectionTimeout，单位为ms。 例如：socketTimeout=60000。 数据源认证及其他功能配置 用户名 是 连接MongoDB的用户名。 密码 是 连接MongoDB的密码。 父主题： 配置DataArts Studio数据连接参数

分库分表场景 对于不同库上表可以聚合为一个表，同步时会被统一写入一个目标表中，匹配的分库分表需要保证结构的一致性。 源端配置。 图4 添加逻辑表 已添加的逻辑表支持预览，单击操作列的预览即可。 预览逻辑表，源表数量越多，等待时间可能越长，需要几分钟到几十分钟不等。 图5 逻辑表预览 目标端配置。 源库表和目标匹配策略： 目标端库名：自定义目标端库名。 表匹配策略：默认为与源端逻辑表同名，不可更改。 目标数据源配置： 数据存储路径：Hudi数据存储的基础路径，只对自动建表生效。每张目的端表会在基础路径下创建子目录，支持HDFS或OBS路径。格式如：OBS:obs://{桶名}、HDFS:/开头。 Hudi表属性全局配置：单击“查看编辑”配置Hudi表属性全局配置。 “Hudi全局配置”作用于所有Hudi表，可配置的Hudi配置项参考Hudi官网介绍。 “Hudi全局配置”优先级低于单表“表属性编辑”中的配置，存在相同配置项时会被覆盖。 源表与目标表映射： 图6 配置源表与目标表映射 Hudi表必须设置“同步主键”，在源端为非主键表时，必须在字段映射阶段手动勾选主键。 表属性编辑：单击操作列“表属性编辑”可配置Hudi表属性，包含表类型，分区类型及表自定义属性。 表类型：MERGE_ON_READ、COPY_ON_WRITE。 分区类型：无分区、时间分区、自定义分区。 其中时间分区需要用户指定一个源端表名，选择一个时间转换格式。 比如时间分区用户指定一个源端表名src_col_1，选择一个时间转换格式，日(yyyyMMdd)、月(yyyyMM)、年(yyyy)，自动建表时会在Hudi表默认创建一个cdc_partition_key的字段，系统会根据配置的时间转换格式将源端字段(src_col_1)的值格式化后写入cdc_partition_key中。 自定义分区：选择源端的某个字段或多个字段作为分区，多个分区通过英文半角逗号”,”分割。 附加字段编辑：单击操作列“附加字段编辑”可为迁移后的Hudi表中增加自定义字段，附加字段会成为一个新的字段加入到Hudi表的建表中。 表2 附加字段值支持情况 类型 示例 常量 - 内置变量 源端host ip地址：source.host 源端schema名称：mgr.source.schema 源端table名称：mgr.source.table 目的端schema名称：mgr.target.schema 目的端table名称：mgr.target.table 字段变量 - udf方法 substring(#col, pos[, len])： 截取源端col列的子串, 范围在[pos, pos+len)。 date_format(#col, time_format[, src_tz, dst_tz])： 将源端col列按time_format格式化, 可选转换时区。 now([tz])： 获取指定时区的当前时间。 if(cond_exp, str1, str2)： 满足条件表达式cond_exp时返回str1, 否则返回str2。 concat(#col[, #str, ...])： 拼接多个参数, 可为源端列或字符串。 from_unixtime(#col[, time_format])： 将unix时间戳按time_format格式化。 unix_timestamp(#col[, precision, time_format])： 将时间转成unix时间戳, 可显式定义时间格式及转换后精度。 对于新建的表，用户可以在已有的源表字段基础上添加附加字段，可以自定义字段名（如custom_defined_col）、选择字段类型、填写字段值。 用户可同时添加多个附加字段。 自动建表：单击“自动建表”为列表中的表按照已配置规则自动建表。成功后表建立方式会显示为使用已有表。

整库场景 源端配置。 添加数据源，选择需要迁移的MySQL表。 图1 选择库表 库与表均支持自定义选择，即可选择一库一表，也可选择多库多表。 目标端配置。 图2 配置目标端参数 源库表和目标匹配策略： 库匹配策略：配置目标数据库的匹配策略，使数据按照规划迁移至目标库。 用户需要提前创建对应数据库，否则可能导致后续自动建表失败。 与来源库同名：会迁移至目的端对应与来源库同名的数据库中。 自定义：支持用户指定目的端库名，也支持通过#{source_db_name}给源数据库名添加自定义字段变成目的端Hudi表的库名。 表匹配策略：配置目标数据表的匹配策略，使数据按照规划迁移至目标表。 用户不需要提前创建对应数据表，后续作业时自动建表。 与来源表同名：会迁移至目的端对应与来源表同名的表中。 自定义：支持用户指定目的端表名，也支持通过内置参数#{source_table_name}给源表名添加前后缀，变成目的端Hudi表的表名。 目标数据源配置： 数据存储路径：Hudi数据存储的基础路径，只对自动建表生效。每张目的端表会在基础路径下创建子目录，支持HDFS或OBS路径。 OBS格式：obs://{桶名}。 HDFS格式：/tmp。 Hudi表属性全局配置：单击“查看编辑”配置Hudi表属性全局配置。 “Hudi全局配置”作用于所有Hudi表，可配置的Hudi配置项参考Hudi官网介绍。 “Hudi全局配置”优先级低于单表“表属性编辑”中的配置，存在相同配置项时会被覆盖。 源表与目标表映射： 图3 配置源表与目标表映射 Hudi表必须设置“同步主键”，在源端为非主键表时，必须在字段映射阶段手动勾选主键。 表属性编辑：单击操作列“表属性编辑”可配置Hudi表属性，包含表类型，分区类型及表自定义属性。 表类型：MERGE_ON_READ、COPY_ON_WRITE。 分区类型：无分区、时间分区、自定义分区。 其中时间分区需要用户指定一个源端表名，选择一个时间转换格式。 比如时间分区用户指定一个源端表名src_col_1，选择一个时间转换格式，日(yyyyMMdd)、月(yyyyMM)、年(yyyy)，自动建表时会在Hudi表默认创建一个cdc_partition_key的字段，系统会根据配置的时间转换格式将源端字段(src_col_1)的值格式化后写入cdc_partition_key中。 自定义分区：选择源端的某个字段或多个字段作为分区，多个分区通过英文半角逗号”,”分割。 附加字段编辑：单击操作列“附加字段编辑”可为迁移后的Hudi表中增加自定义字段，附加字段会成为一个新的字段加入到Hudi表的建表中。 表1 附加字段值支持情况 类型 示例 常量 - 内置变量 源端host ip地址：source.host 源端schema名称：mgr.source.schema 源端table名称：mgr.source.table 目的端schema名称：mgr.target.schema 目的端table名称：mgr.target.table 字段变量 - udf方法 substring(#col, pos[, len])： 截取源端col列的子串, 范围在[pos, pos+len)。 date_format(#col, time_format[, src_tz, dst_tz])： 将源端col列按time_format格式化, 可选转换时区。 now([tz])： 获取指定时区的当前时间。 if(cond_exp, str1, str2)： 满足条件表达式cond_exp时返回str1, 否则返回str2。 concat(#col[, #str, ...])： 拼接多个参数, 可为源端列或字符串。 from_unixtime(#col[, time_format])： 将unix时间戳按time_format格式化。 unix_timestamp(#col[, precision, time_format])： 将时间转成unix时间戳, 可显式定义时间格式及转换后精度。 对于新建的表，用户可以在已有的源表字段基础上添加附加字段，可以自定义字段名（如custom_defined_col）、选择字段类型、填写字段值。 用户可同时添加多个附加字段。 自动建表：单击“自动建表”为列表中的表按照已配置规则自动建表。成功后表建立方式会显示为使用已有表。

约束限制 对于同一张Hudi表，必须确保同一时间段只有一个集成作业在写入，否则会有Hudi的数据写入冲突，导致作业失败。 源端MySql需要配置最小权限：SELECT, SHOW DATABASES, REPLICATION SLAVE, REPLICATION CLIENT，即执行SQL： GRANT SELECT, SHOW DATABASES, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO '用户名'@'%';

整库场景 源端配置。 Kafka配置。 数据格式：源端Kafka Topic中消息内容的格式。 目前支持JSON、CSV、TEXT格式。 JSON格式：支持对消息内容以JSON的层级格式进行解析。 CSV格式：支持对消息内容以CSV格式指定分隔符进行解析。 TEXT格式：将整条消息内容作为文本直接同步。 消费组ID：由用户指定，标识当前实时处理集成作业的消费组。 当迁移作业消费DMS Kafka集群某一Topic的消息后，在Kafka集群的“消费组管理”可以看到此处配置的消费组ID、在“消息查询”可以查到消费属性group.id。因为Kafka把消费消息的一方称为消费者(Consumer)，多个消费者组成一个消费组(Consumer Group)，消费组是Kafka提供的可扩展且具有容错性的消费者机制，建议配置消费组。 字段分隔符：数据格式为CSV格式时支持该参数。 使用该字符进行CSV消息的列分割，仅支持单个字符，默认为逗号。 记录分隔符：数据格式为CSV格式时支持该参数。 使用该字符串进行CSV消息的行分割，默认为换行符：\n。 Kafka源端属性配置：支持设置Kafka的配置项，需要增加 properties. 前缀，作业将自动移除前缀并传入底层Kafka客户端，例如：properties.connections.max.idle.ms=600000。 添加数据源。 图1 添加数据源 目标端配置。 图2 配置目标端参数 目标表的基本配置： 文件存储格式：Parquet、TextFile、SequenceFile。 OBS存储路径：指定OBS文件存储的路径。 支持填写#{source_topic_name}内置变量，可将源端不同的topic的数据写入不同的路径下。例如：obs://bucket/dir/test.db/prefix_#{source_topic_name}_suffix/。 文件压缩方式：指定写入文件的压缩方式，默认不进行压缩。 Parquet格式：UNCOMPRESSED，SNAPPY。 SequenceFile格式：UNCOMPRESSED，SNAPPY，GZIP，LZ4。 BZIP2TextFile格式：UNCOMPRESSED。 全局高级配置：单击查看编辑，配置高级属性。 auto-compaction：数据会先被写入临时文件，当checkpoint完成后，该配置控制检查点产生的临时文件是否被合并。 源表与目标表映射： 图3 配置源表与目标表映射 单表高级配置：单击“单表高级配置”为列表中的topic配置对应属性。 auto-compaction：数据会先被写入临时文件，当checkpoint完成后，该配置控制检查点产生的临时文件是否被合并。 目标字段编辑：单击操作列“目标字段编辑”可为迁移后的目标表中自定义字段。 表1 目标字段值支持情况 类型 示例 源表字段 - 内置变量 __key__ __value__ _topic__ __partition__ __offset__ _timestamp__ 手动赋值 - udf方法 支持填写Flink的内置函数用于数据转换。 例如：CONCAT(CAST(NOW() as STRING), `col_name`)、DATE_FORMAT(NOW(), 'yy')。 注意，其中字段名要用反引号包围起来。 Flink完整内置函数可参考：官网介绍。 可以自定义字段名（如custom_defined_col）、选择字段类型、填写字段值。 用户可同时添加多个字段。

整库场景 源端配置。 添加数据源，选择需要迁移的MySQL表。 图1 选择库表 库与表均支持自定义选择，即可选择一库一表，也可选择多库多表。 目标端配置。 图2 配置目标端参数 设置源表与Topic映射规则： 目标Topic名称规则：源端表名与目的端Topic名的映射规则，可以指定为单一Topic，也可使用内置字段做映射。 可以使用的内置变量有： #{source_db_name}：源库名。 #{source_table_name}：源库名。 同步kafka partition策略：支持以下三种投递策略，源端无主键情况下，目的端默认投递到partition 0。 按库名+表名的hash值投递到不同Partition。 全部投递到Partition 0。 按表的主键值hash值投递到不同的Partition。 需要同步的数据库操作：支持同步的数据库操作为DDL和DML。 投递到Kafka的数据格式：投递到Kafka的数据格式有Debezium JSON和Canal JSON。 源表与目标表映射：支持用户根据实际需求修改映射后的目的端topic名称，可以配置为一对一、多对一的映射关系。 图3 配置源表与目标表映射

分库分表场景 源端配置。 图4 添加逻辑表 逻辑表名：即最终写入到DMS Kafka的表名。 源库过滤条件：支持填入正则表达式，在所有Mysql实例中通过该正则表达式过滤出要写入目标端DWS汇聚表的所有分库 源表过滤条件：支持填入正则表达式，在过滤出的源端分库中再次过滤出要写入目标端DWS汇聚表的所有分表 已添加的逻辑表支持预览，单击操作列的预览即可。 预览逻辑表，源表数量越多，等待时间可能越长，请耐心等待。 图5 逻辑表预览 目标端配置。 图6 配置目标端参数 设置源表与Topic映射规则： 目标Topic名称规则：源端表名与目的端Topic名的映射规则，可以指定为单一Topic，也可使用内置字段做映射。 可以使用的内置变量有： #{source_db_name}：源库名。 #{source_table_name}：源库名。 同步kafka partition策略：支持以下三种投递策略，源端无主键情况下，目的端默认投递到partition 0。 按库名+表名的hash值投递到不同Partition。 全部投递到Partition 0。 按表的主键值hash值投递到不同的Partition。 需要同步的数据库操作：支持同步的数据库操作为DDL和DML。 投递到Kafka的数据格式：投递到Kafka的数据格式有Debezium JSON和Canal JSON。 源表与目标表映射：支持用户根据实际需求修改映射后的目的端topic名称，可以配置为一对一、多对一的映射关系。 图7 配置源表与目标表映射

原因分析 查看日志提示报错信息为“Array element access needs an index starting at 1 but was 0”，即数组下标必须从1开始，a[1]表示数组中的第一个元素。 查看该CDM实时作业：配置源端为Kafka，目的端为DLI字段映射，赋值来源为“源表字段”，赋值框使用kafka消息中的嵌套json数组写入方式为a[0]。由于在字段映射使用源表字段对目标列进行赋值时，数组下标必须从1开始（表示数组的第一个元素），如果误用了下标0，那么作业会运行失败，故发现该问题为赋值数组下标设置错误导致，需重新设置。 图2 原有参数配置

功能说明 云监控服务 （Cloud Eye）可以监控和查看云服务的运行状态、各个指标的使用情况，并对监控项创建告警规则。 当您创建了实时处理集成作业后， 云监控 服务会自动关联实时处理集成作业的监控指标，帮助您实时掌握作业的各项性能指标，精确掌握作业的运行情况。 本章节描述了实时处理集成作业云监控的监控指标的命名空间、监控指标列表和维度定义。 如果您需要查看实时处理集成作业相关的监控指标，请参见查看实时处理集成作业监控指标。 如果您需要在监控数据满足指定条件时发送报警通知，可参见设置实时处理集成作业告警规则。

MySQL数据库作为源端时目的端自动建表支持的数据类型 源端为MySQL数据库，目的端为Hudi时，支持自动建表的数据类型如下： 表2 开源MySQL数据库作为源端时支持的数据类型 类别 类型 简要释义 Hudi 字符串 CHAR(M) 固定长度的字符串是以长度为1到255之间个字符长度(例如：CHAR(5))，存储右空格填充到指定的长度。 限定长度不是必需的，它会默认为1。 STRING VARCHAR(M) 可变长度的字符串是以长度为1到255之间字符数(高版本的MySQL超过255); 例如： VARCHAR(25). 创建VARCHAR类型字段时，必须定义长度。 STRING 数值 DECIMAL(M,D) 非压缩浮点数不能是无符号的。在解包小数，每个小数对应于一个字节。 定义显示长度(M)和小数(D)的数量是必需的。 NUMERIC是DECIMAL的同义词。 DECIMAL NUMBERIC 与 DECIMAL 相同 不支持 INTEGER 一个正常大小的整数，可以带符号。如果是有符号的，它允许的范围是从-2147483648到2147483647。 如果是无符号，允许的范围是从0到4294967295。 可以指定多达11位的宽度。 INT INTEGER UNSIGNED INTEGER 的无符号形式 BIGINT INT 与INTEGER相同 INT INT UNSIGNED 与INTEGER UNSIGNED相同 BIGINT BIGINT 一个大的整数，可以带符号。如果有符号，允许范围为-9223372036854775808到9223372036854775807。如果无符号，允许的范围是从0到18446744073709551615. 可以指定最多20位的宽度。 BIGINT BIGINT UNSIGNED BIGINT的无符号形式 DECIMAL(20, 0) MEDIUMINT 一个中等大小的整数，可以带符号。如果有符号，允许范围为-8388608至8388607。 如果无符号，允许的范围是从0到16777215，可以指定最多9位的宽度。 INT MEDIUMINT UNSIGNED MEDIUMINT的无符号形式 BIGINT TINYINT 一个非常小的整数，可以带符号。如果是有符号，它允许的范围是从-128到127。 如果是无符号，允许的范围是从0到255，可以指定多达4位数的宽度。 INT TINYINT UNSIGNED TINYINT的无符号形式 INT BOOLEAN MySQL的bool实际上就是tinyint(1) BOOLEAN SMALLINT 一个小的整数，可以带符号。如果有符号，允许范围为-32768至32767。 如果无符号，允许的范围是从0到65535，可以指定最多5位的宽度。 INT SMALLINT UNSIGNED SMALLINT的无符号形式 INT REAL 同DOUBLE 不支持 FLOAT(M,D) 不能使用无符号的浮点数字。可以定义显示长度(M)和小数位数(D)。这不是必需的，并且默认为10,2。其中2是小数的位数，10是数字(包括小数)的总数。小数精度可以到24个浮点。 FLOAT DOUBLE(M,D) 不能使用无符号的双精度浮点数。可以定义显示长度(M)和小数位数(D)。 这不是必需的， 默认为16,4，其中4是小数的位数。小数精度可以达到53位的DOUBLE。 REAL是DOUBLE同义词。 DOUBLE DOUBLE PRECISION 与DOUBLE相似 DOUBLE 位 BIT(M) 存储位值的BIT类型。BIT(M)可以存储多达M位的值，M的范围在1到64之间。 不支持 日期时间 DATE 以YYYY-MM-DD格式的日期，在1000-01-01和9999-12-31之间。 例如，1973年12月30日将被存储为1973-12-30。 DATE TIME 用于存储时、分、秒信息 STRING DATETIME 日期和时间组合以YYYY-MM-DD HH:MM:SS格式，在1000-01-01 00:00:00 到9999-12-31 23:59:59之间。例如，1973年12月30日下午3:30，会被存储为1973-12-30 15:30:00。 TIMESTAMP TIMESTAMP 1970年1月1日午夜之间的时间戳，到2037的某个时候。这看起来像前面的DATETIME格式，无需只是数字之间的连字符; 1973年12月30日下午3点30分将被存储为19731230153000(YYYYMMDDHHMMSS)。 TIMESTAMP YEAR(M) 以2位或4位数字格式来存储年份。如果长度指定为2(例如YEAR(2))，年份就可以为1970至2069(70-69)。如果长度指定为4，年份范围是1901-2155，默认长度为4。 STRING 多媒体（二进制） BINARY(M) 字节数为M,允许长度为0-M的变长二进制字符串，字节数为值得长度加1 不支持 VARBINARY(M) 字节数为M,允许长度为0-M的定长二进制字符串 不支持 TEXT 字段的最大长度是65535个字符。 TEXT是“二进制大对象”，并用来存储大的二进制数据，如图像或其他类型的文件。 STRING TINYTEXT 0-255字节短文本二进制字符串 STRING MEDIUMTEXT 0-167772154字节中等长度文本二进制字符串 STRING LONGTEXT 0-4294967295字节极大长度文本二进制字符串 STRING BLOB 字段的最大长度是65535个字符。 BLOB是“二进制大对象”，并用来存储大的二进制数据，如图像或其他类型的文件。BLOB大小写敏感。 不支持 TINYBLOB 0-255字节短文本二进制字符串 不支持 MEDIUMBLOB 0-167772154字节中等长度文本二进制字符串 不支持 LONGBLOB 0-4294967295字节极大长度文本二进制字符串 不支持 特殊类型 SET SET是一个字符串对象，可以有零或多个值，其值来自表创建时规定的允许的一列值。指定包括多个SET成员的SET列值时各成员之间用逗号(‘,’)间隔开。这样SET成员值本身不能包含逗号。 - JSON - STRING ENUM 当定义一个ENUM，要创建它的值的列表，这些是必须用于选择的项(也可以是NULL)。例如，如果想要字段包含“A”或“B”或“C”，那么可以定义为ENUM为 ENUM(“A”，“B”，“C”)也只有这些值(或NULL)才能用来填充这个字段。 不支持

问题描述 1. 运行migration mysql2dws链路的实时同步作业，DDL同步中对增加列操作设置为“正常处理”。 2. 在目的端DWS表有数据的场景下，源端MySQL执行DDL语句，添加带非空约束的列，默认值为空字符串，如： alter table test add column t_col varchar(30) not null default '' 3. migration作业产生异常，报错执行DDL失败，失败原因为：column "t_col" contains null values。

实时集成作业监控：查看作业详细信息 单击作业名称，可以查看该作业的详细信息。 选择“基本信息”，查看该作业的基本信息。 选择“监控信息”，查看该作业的监控信息。 单击“查看监控指标”，进入云监控服务界面查看该作业的相关监控指标。 单击“创建告警规则”，进入云监控服务的创建告警规则界面，创建该作业的告警规则。 查看已创建的告警规则，包含“名称/ID”、“告警策略”。 查看作业同步进度信息。 选择“日志信息”，查看该作业的详细日志信息，对日志进行下载。

基线管理和变更评审 产品从规划到上市要经过复杂的研发过程，Req工具的IPD需求管理提供了基线评审和变更管理能力，实现版本基线-受控变更-变更评审-变更管理过程，让基线变更如门禁一样，达到阈值才能启动下一步，确保产品研发“做正确的事”。 支持将发布/迭代基线化，基线后，不能再修改当前发布/迭代的标题、描述、计划开始时间、计划完成时间、计划工作量，同时当前发布/迭代下的研发需求将会同步基线。 已基线需求若需变更，需通过变更评审。 基线管理与变更评审效果图如下： 图1 基线发布计划 图2 编辑基线锁定字段 父主题： 功能特性

项目级权限 通过需求管理创建的所有项目都支持基于本项目的权限设置，且每一个项目的权限设置相互独立。 在项目管理中，角色包含三大类：项目管理者（项目管理员、项目经理、测试经理、产品经理、系统工程师）、开发者（Commiter、开发人员、测试人员、参与者）、浏览者和运维经理。 项目管理员：项目的创建者。 项目经理：项目开发管理员。 测试经理：项目测试管理员。 产品经理：项目的需求分析管理者。 系统工程师：项目的架构分析管理者。 Commiter：参与项目开发的人员。 开发人员：参与项目开发的人员。 测试人员：参与项目测试的人员。 参与者：参与项目指定工作处理的人员。 浏览者：关注或浏览项目内容的成员。 运维经理：参与项目维护工作的成员。 表3 Scrum项目默认角色权限说明 模块 权限项 项目管理员 项目经理 产品经理 系统工程师 Committer 测试经理 开发人员 测试人员 运维经理 参与者 浏览者 项目基本信息 归档 Y Y N N N Y N N N N N 类型转换 Y N N N N N N N N N N 规划 新建 Y Y Y Y Y Y Y Y Y Y N 编辑 Y Y Y Y N Y N N N N N 删除 Y Y Y Y N Y N N N N N 工作项 新建（复制） Y Y Y Y Y Y Y Y Y Y N 编辑 Y Y Y Y N Y N Y N N N 删除 Y Y Y Y N Y N N N N N 导入 Y Y Y Y Y Y Y N Y Y N 导出 Y Y Y Y Y Y Y N Y Y N 归档/取消归档 Y Y Y Y N Y N N N N N 上传文件 Y Y Y Y N Y N N N N N 迭代 新建 Y Y Y N N Y N N N N N 编辑 Y Y Y N N Y N N N N N 删除 Y Y Y N N Y N N N N N 状态设置 Y Y N N N Y N N N N N 报表 新建报表 Y Y Y Y Y Y Y N Y Y N 编辑报表 Y Y N N N Y N N N N N 删除报表 Y Y N N N Y N N N N N 移动报表 Y Y N N N Y N N N N N 导出报表 Y Y N N Y Y Y N Y Y N 新建分类 Y Y Y Y Y Y Y N Y Y N 重命名分类 Y Y Y Y Y Y N N N N N 移动分类 Y Y N N N Y N N N N N 删除分类 Y Y N N N Y N N N N N 自定义 工作项自定义设置 Y Y Y Y N Y N N N N N 领域设置 Y Y Y Y N Y N N N N N 通知设置 Y Y N N N Y N N N N N 模块设置 Y Y Y Y N Y N N N N N 工时类型设置 Y Y N N N Y N N N N N 自动化设置 Y Y N N N Y N N N N N 文档 上传文档/创建目录 Y Y Y Y N Y Y Y Y Y N 编辑文档属性/重命名目录/移动目录 Y Y N N N Y N N N N N 删除文档/目录 Y Y N N N Y N N N N N 下载文档 Y Y Y Y N Y Y Y Y Y Y 预览文档 Y Y Y Y N Y Y Y Y Y Y 仪表盘 新建仪表盘 Y Y N N N Y N N N N N 编辑仪表盘 Y Y N N N Y N N N N N 删除仪表盘 Y Y N N N Y N N N N N 解锁仪表盘 Y Y N N N Y N N N N N 表4 看板项目默认角色权限说明 模块 权限项 项目管理员 项目经理 产品经理 系统工程师 Committer 测试经理 开发人员 测试人员 运维经理 参与者 浏览者 项目基本信息 归档 Y Y N N N Y N N N N N 类型转换 Y N N N N N N N N N N 工作项 新建（复制） Y Y Y Y Y Y Y Y Y Y N 编辑 Y Y Y Y N Y N N N N N 删除 Y Y Y Y N Y N N N N N 导入 Y Y Y Y Y Y Y Y Y Y N 导出 Y Y Y Y Y Y Y Y Y Y N 归档/取消归档 Y Y Y Y N Y N N N N N 上传文件 Y Y Y Y N Y N N N N N 迭代 新建 Y Y Y N N Y N N N N N 编辑 Y Y Y N N Y N N N N N 删除 Y Y Y N N Y N N N N N 状态设置 Y N N N N N N N N N N 报表 新建报表 Y Y Y Y Y Y Y Y Y Y N 编辑报表 Y Y N N N Y N N N N N 删除报表 Y Y N N N Y N N N N N 移动报表 Y Y N N N Y N N N N N 导出报表 Y Y N N Y Y Y Y Y Y N 新建分类 Y Y Y Y Y Y Y Y Y Y N 重命名分类 Y Y Y Y Y Y N N N N N 移动分类 Y Y N N N Y N N N N N 删除分类 Y Y N N N Y N N N N N 自定义 工作项自定义设置 Y Y Y Y N Y N N N N N 领域设置 Y Y Y Y N Y N N N N N 通知设置 Y Y N N N Y N N N N N 模块设置 Y Y Y Y N Y N N N N N 工时类型设置 Y N N N N N N N N N N 自动化设置 Y N N N N N N N N N N 文档 上传文档/创建目录 Y Y Y Y N Y Y Y Y Y N 编辑文档属性/重命名目录/移动目录 Y Y N N N Y N N N N N 删除文档/目录 Y Y N N N Y N N N N N 下载文档 Y Y Y Y N Y Y Y Y Y Y 预览文档 Y Y Y Y N Y Y Y Y Y Y

支持迁移的公共镜像 支持迁移的公共镜像和HCE系统的对应关系如下所述。 表1 支持迁移的x86公共镜像 OS发行系列 源操作系统 目标操作系统 HCE 64bit：Huawei Cloud EulerOS 1.1 Huawei Cloud EulerOS 2.0 标准版 64位 EulerOS 64bit：EulerOS：2.10/2.9/2.5/2.3/2.2 Huawei Cloud EulerOS 2.0 标准版 64位 CentOS 64bit：CentOS 7：7.9/7.8/7.7/7.6/7.5/7.4/7.3/7.2/7.1/7.0 64bit：CentOS 8：8.5/8.4/8.3/8.2/8.1/8.0 Huawei Cloud EulerOS 2.0 标准版 64位 64bit：CentOS 7.9 Huawei Cloud EulerOS 1.1 CentOS兼容版 表2 支持迁移的Arm公共镜像 OS发行系列 源操作系统 目标操作系统 EulerOS 64bit：EulerOS：2.10/2.9/2.8/2.3 Huawei Cloud EulerOS 2.0 标准版 64位 Arm版

Huawei Cloud EulerOS镜像 发行版 镜像名称 镜像说明 Huawei Cloud EulerOS 2.0 Huawei Cloud EulerOS 2.0 标准版 64位 支持x86架构的默认标准镜像。 Huawei Cloud EulerOS 2.0 Huawei Cloud EulerOS 2.0 等保2.0三级版 64位 基于x86架构默认标准镜像进行等保加固的镜像版本，该镜像符合等保2.0三级安全保护的基本要求。详情请参见Huawei Cloud EulerOS 2.0等保2.0三级版镜像概述。 Huawei Cloud EulerOS 2.0 Huawei Cloud EulerOS 2.0 标准版 64位 Arm版 支持Arm架构的默认标准镜像。 Huawei Cloud EulerOS 2.0 Huawei Cloud EulerOS 2.0 等保2.0三级版 64位 Arm版 支持Arm架构的等保2.0三级版镜像。 Huawei Cloud EulerOS 1.1 Huawei Cloud EulerOS 1.1 CentOS兼容版 64位 支持x86架构的兼容CentOS 7.9镜像。 说明： 仅在新加坡区域发布。

什么是Huawei Cloud EulerOS 2.0等保2.0三级版镜像 Huawei Cloud EulerOS 2.0等保2.0三级版镜像是基于Huawei Cloud EulerOS 2.0官方标准镜像，根据国家信息安全部发布的《GB/T22239-2019信息安全技术网络安全等级保护基本要求》中对操作系统提出的一些等级保护要求推出的镜像。 您使用本镜像可满足以下等保合规要求： 身份鉴别 访问控制 安全审计 入侵防范 恶意代码防范

安全启动 通过安全启动（SecureBoot）可以保证系统启动过程中各个部件的完整性，防止没有经过合法签名的部件被加载运行，从而防止对系统及用户数据产生安全威胁并防御bootkit和rootkit攻击。HCE 2.0支持安全启动。 查看是否开启SecureBoot HCE启动成功后，可以使用下面命令判断SecureBoot是否启用。 mokutil --sb-state SecureBoot enabled #SecureBoot已启用 启用kernel ko签名校验 安全启动通过校验签名来实现。HCE 2.0的内核默认未编译强制启用签名校验，需要通过kernel的启动参数module.sig_enforce进行控制。 启用ko签名校验：修改/boot/efi/EFI/hce/grub.cfg文件，增加启动参数module.sig_enforce=1。 Kernel参数 值 说明 module.sig_enforce 0 关闭内核对ko模块的校验，重启生效。 1 开启内核对ko模块的校验，重启生效。 HCE 2.0签名公钥证书 HCE 2.0 KEK证书和HCE 2.0 UEFI签名证书详见https://repo.huaweicloud.com/hce/2.0/updates/x86_64/Packages/路径下的hce-sign-certificate-1.0-1.hce2.x86_64.rpm。

支持的实例规格 Huawei Cloud EulerOS支持部分弹性云服务器实例规格，请根据需要选择合适的实例规格。 不同区域支持的弹性云服务器实例规格存在差异，以控制台实际显示为准。对于控制台未显示的实例规格，表示该区域不支持此实例规格。 Huawei Cloud EulerOS 2.0镜像支持Flexus X实例、Flexus L实例 和弹性云服务器实例。 弹性云服务器支持的的实例规格如下表所示。 表1 支持的弹性云服务器实例规格 弹性云服务器实例类型 支持的规格族 通用计算型 s7/s6/x1 通用计算增强型 c7/c6s/c6/x1e 内存优化型 m7/m6 超大内存型 e6 磁盘增强型 d6/d7 Huawei Cloud EulerOS 1.1 支持实例规格如下所述。 表2 支持的弹性云服务器实例规格 弹性云服务器实例类型 支持的规格族 通用计算型 s6 通用计算增强型 c6s/c6 内存优化型 m6 磁盘增强型 d6

注意事项 本功能仅适用于“业务类型”为“全站加速”的域名，且对应的资源在CDN节点不缓存，即对应资源的缓存“规则配置”中“缓存过期时间”设置为“0”。 本功能目前处于公测期，暂不收费。 可设置的最大超时时间是300秒，超过设置的时间没有消息传递，将关闭连接。 后台有特殊配置的域名，暂不支持配置WebSocket。 WebSocket协议和配置HTTP/2功能不兼容，请勿同时开启，否则会造成域名访问异常。