数据湖探索 DLI-导入数据(废弃):请求消息
请求消息
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
data_path |
是 |
String |
导入的数据路径(当前仅支持导入OBS上的数据)。 |
data_type |
是 |
String |
导入的数据类型(当前支持csv、parquet、orc、json、avro数据类型)。
说明:
不支持导入Hive表生成的avro格式数据。 |
database_name |
是 |
String |
导入表所属的数据库名称。 |
table_name |
是 |
String |
导入表的名称。 |
with_column_header |
否 |
Boolean |
导入数据中的第一行数据是否包括列名,即表头。默认为“false”,表示不包括列名。导入 CS V类型数据时可指定。 |
delimiter |
否 |
String |
用户自定义数据分隔符,默认为逗号。导入CSV类型数据时可指定。 |
quote_char |
否 |
String |
用户自定义引用字符,默认为双引号。导入CSV类型数据时可指定。 |
escape_char |
否 |
String |
用户自定义转义字符,默认为反斜杠。导入CSV类型数据时可指定。 |
date_format |
否 |
String |
指定特定的日期格式,默认为“yyyy-MM-dd”。日期格式字符定义详见表3。导入CSV及JSON类型数据时可指定。 |
bad_records_path |
否 |
String |
作业执行过程中的bad records存储目录。设置该配置项后,bad records不会导入到目标表。 |
timestamp_format |
否 |
String |
指定特定的时间格式,默认为“yyyy-MM-dd HH:mm:ss”。时间格式字符定义详见表3。导入CSV及JSON类型数据时可指定。 |
queue_name |
否 |
String |
指定执行该任务的队列。若不指定队列,将采用default队列执行操作。 |
overwrite |
否 |
Boolean |
是否覆盖写。默认为“false”,表示追加写。为“true”,表示覆盖写。 |
partition_spec |
否 |
Object |
表示需要导入到哪个分区。
|
conf |
否 |
Array of Strings |
用户定义适用于此作业的配置参数。目前支持的配置项:“dli.sql.dynamicPartitionOverwrite.enabled”默认值为“false”,对于DataSource表,表示动态插入覆盖整表数据,为“true”表示覆盖指定分区数据。
说明:
对于Hive分区表的动态覆盖写,仅支持覆盖涉及到的分区数据,不支持覆盖整表数据。 |
模式字符 |
日期或时间元素 |
示例 |
---|---|---|
G |
纪元标识符 |
AD |
y |
年份 |
1996; 96 |
M |
月份 |
July; Jul; 07 |
w |
年中的周数 |
27(该年的第27周) |
W |
月中的周数 |
2(该月的第2周) |
D |
年中的天数 |
189(该年的第189天) |
d |
月中的天数 |
10(该月的第10天) |
u |
星期中的天数 |
1 = 星期一, ..., 7 = 星期日 |
a |
am/pm 标记 |
pm(下午时) |
H |
24小时数(0-23) |
2 |
h |
12小时数(1-12) |
12 |
m |
分钟数 |
30 |
s |
秒数 |
55 |
S |
毫秒数 |
978 |
z |
时区 |
Pacific Standard Time; PST; GMT-08:00 |