检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
具体可以为以下格式: <分区列名> <运算符> <分区列比较值> 例如:start_date < '201911' 示例1:<partition_filtercondition1> AND|OR <partition_filtercondition2> 例如:start_date
timeout 连接redis的超时时间,单位ms,默认值2000(2秒超时)。
pipeline.global-job-parameters示例 key value k1 v1 k2 v1,v2 k3 str:ing k4 str""ing FunctionContext#getJobParameter只能获取pipeline.global-job-parameters这一配置项的值。
pipeline.global-job-parameters示例 key value k1 v1 k2 v1,v2 k3 str:ing k4 str""ing FunctionContext#getJobParameter只能获取pipeline.global-job-parameters这一配置项的值。
partitionSpec如果导入时指定部分列为分区列,而导入的数据只包含了指定的分区信息,则数据导入后的未指定的分区列字段会存在null值等异常值。 示例中isOverWrite表示是否是覆盖写,为true表示覆盖写,为false表示追加写。
authSource=admin uri uri的格式为:mongodb://username:pwd@host:8635/db 其中以下参数需要修改为实际值: “username”为创建的mongo(DDS)数据库用户名。
- 参数模板 数据库参数模板就像是数据库引擎配置值的容器,参数模板中的参数可应用于一个或多个相同类型的数据库实例。 系统默认模板:Default-MySQL-5.7 表名大小写 配置表名不区分大小写。
tags metric对应的标签,用于归类、过滤、快速检索等操作,可以是1到8个,以“,”分隔,包括对应metric下的所有tagk的值。
with ( 'connector' = 'jdbc', 'url' = '', 'table-name' = '', 'driver' = '', 'username' = '', 'password' = '' ); 参数说明 参数 是否必选 默认值
eventlog的压缩格式设置为zstd 说明: Spark3.3.x版本中,spark.eventLog.compression.codec的默认值被设置为zstd,Spark在压缩事件日志时将不再支持使用spark.io.compression.codec的参数值。
} /** * init函数类似于构造函数,用于UDAF的初始化 */ @Override public void init() { //设置sum初始值
其他参数保持默认值或根据需要选择。 创建OBS桶时,需要选择与DLI管理控制台相同的区域,不可跨区域执行操作。 单击“立即创建”。 单击所建桶“obs1”,进入“对象”页面。
option("Cols",Cols)\ .load() jdbcDF.filter("id = '12333' or id='11111'").show() id、location、city:限定了长度,插入数据时须按长度给定数据值,
其他参数保持默认值或根据需要选择。 创建OBS桶时,需要选择与DLI管理控制台相同的区域,不可跨区域执行操作。 单击“立即创建”。 单击所建桶“dli-test-obs01”,进入“对象”页面。
两个队列设置的扩缩容策略如下: 队列A扩缩容策略:时间段:00:00-9:00,最小CU是32,最大CU是64 队列B扩缩容策略:00:00-9:00,最小CU是64,最大CU是128 192CUs 64CUs 128CUs 当弹性资源池实际cu大于等于两个队列最大 cu之和,队列都分配最大值
env.execute(); } catch (Exception ex) { LOG.error(ex.getMessage(), ex); } } } disToDis.properties样例(注意:groupId的值为步骤
具体说明如表6所示,其他参数保持默认值即可。 表6 Spark Jar作业参数填写 参数名 参数值 所属队列 选择已创建的DLI通用队列。例如当前选择步骤1:创建DLI通用队列创建的通用队列“sparktest”。 Spark版本 选择Spark版本。