检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
watermark-strategy_expression) ) with ( 'connector' = 'datagen' ); 参数说明 表2 参数说明 参数 是否必选 默认值 数据类型 参数说明 connector 是 无 String 指定要使用的连接器,这里是'datagen'。
场景一:固定资源造成资源浪费和资源不足的场景 在每天的不同时段,作业任务对资源的请求量也会发生变化,如果采用固定资源规格则会导致资源浪费或者资源不足的问题。例如,如下图图2示例可以看出: 大约在凌晨4点到7点这个数据段,ETL作业任务结束后没有其他作业,因为资源固定一直占用,导致严重的资源浪费。 上午9点到12
当“权限设置”中的选项为灰色时,表示您不具备修改此队列权限的权限。可以向管理员用户、队列所有者等具有赋权权限的用户申请“队列的赋权”和“队列权限的回收”权限。 图2 队列权限设置 单击“确定”完成权限设置。 回收某用户具备的所有权限。 在对应队列“权限信息”区域的用户列表中,选择需要删除权限的用户,在“
自定义分组或选择已有的分组名称。 图2 创建对应的Flink Jar包 创建distoDis对应的包。 在DLI控制台,打开“数据管理 > 程序包管理”,单击“创建程序包”,创建disToDis.properties对应的程序包。代码样例请参考disToDis.properties样例。 表2 创建disToDis
当“权限设置”中的选项为灰色时,表示您不具备修改此队列权限的权限。可以向管理员用户、弹性资源池所有者等具有赋权权限的用户申请弹性资源池的“赋权”和“回收”权限。 图2 弹性资源池权限设置 单击“确定”完成权限设置。 回收某用户具备的所有权限。 在对应弹性资源池“用户权限信息”区域的用户列表中,选择需要删除
具体创建DWS集群的操作可以参考创建DWS集群。 整体作业开发流程 整体作业开发流程参考图1。 图1 作业开发流程 步骤1:创建队列:创建DLI作业运行的队列。 步骤2:创建RDS MySQL数据库和表:创建RDS MySQL的数据库和表。 步骤3:创建DWS数据库和表:创建用于接收数据的DWS数据库和表。
string, order_id string, score1 double, order_channel string, score2 double, order_time string, score3 double, pay_amount double, score4
SQL样例模板列表显示已有的Flink OpenSource SQL样例作业模板,Flink OpenSource SQL样例模板列表参数说明如表 1所示。 表2 Flink OpenSource SQL样例模板列表参数 参数 参数说明 名称 模板名称,只能由英文、中文、数字、中划线和下划线组成,并且长度为1~64个字符。
OBS授权 authorizeBucket - POST /v1.0/{project_id}/dli/obs-authorize 队列相关 表2 队列相关API&SDK的对应关系表 Class Method Java Method Python Method API Queue 创建队列
的发送数据,实际发送数据量请参考streaming-writer或StreamingFileWriter算子的记录数。 语法格式 1 2 3 4 5 6 7 8 9 10 11 CREATE TABLE sink_table ( name string,
在DLI管理控制台的左侧导航栏中,单击“作业管理”>“Flink作业”,进入Flink作业管理页面。 单击右上角“导出作业”,打开“导出作业”对话框。 图2 导出作业 选择保存作业的OBS桶。单击“下一步”。 选择待导出的作业。 默认导出所有作业,也可以勾选“自定义导出”选择需要导出的作业。 单击“确认导出”,完成导出作业。
在“授权”弹出框中,选择“用户授权”或“项目授权”,填写需要授权的用户名或选择需要授权的项目,选择相应的权限。具体权限说明请参考表1。 图1 数据库用户授权 图2 数据库项目授权 表1 参数说明 参数 描述 授权对象 选择“用户授权”或“项目授权”。 用户名或项目名 选择“用户授权”时,输入数据库新增用户对应的IAM用户名称。