检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
top_bad_comment_product 图6 查看top_bad_comment_product表数据 开发并调度作业 假设在OBS中原始BI报表是每日更新的,我们希望每天更新分析结果,那么这里可以使用DLF作业编排和作业调度功能。 在DataArts Studio控制台首页,选择对应工作空间的“数据开发”模块,进入数据开发页面。
top_active_movie 图6 查看top_active_movie表数据 开发并调度作业 假设OBS中“movie”和“rating”表是每日更新的,我们希望每天更新Top10电影,那么这里可以使用DLF作业编排和作业调度功能。 在DataArts Studio控制台首页,选择对应工作空间的“数据开发”模块,进入数据开发页面。
update_time String 更新时间,只读,格式遵循RFC3339,精确到秒,UTC时区,即yyyy-mm-ddTHH:MM:SSZ,如1970-01-01T00:00:00Z。 create_by String 创建人。 update_by String 更新人。 type String
否 Integer 增量作业更新行数,已废弃。 group_name 否 String 组名。 bytes_read 否 Long 作业读取的字节。由系统生成,用户无需填写。 execute_update_date 否 Long 最近一次执行任务更新时间,单位:毫秒。由系统生成,用户无需填写。
create_time Long 创建时间。 create_user String 创建者。 update_time Long 更新时间。 update_user String 更新者。 状态码: 400 表4 响应Body参数 参数 参数类型 描述 error_code String 错误码。
在物理表列表中,单击列表上方的“导入”,选择“导入PDM”。在“导入表”对话框中,选择“导入配置”页签。 图12 导入PDM 选择是否更新已有数据。 不更新:当数据重复时,不会替换系统中原有的数据。 更新:当数据重复时 系统中的原有数据为草稿状态,则会覆盖生成新的草稿数据。 系统中的原有数据为发布状态,则会生成下展数据。
原因分析:由于ssh session超时断开了,因此Shell节点失败。 解决办法 编辑ECS的/etc/ssh/sshd_config文件,添加或者更新如下两个值。 ClientAliveInterval 300 ClientAliveCountMax 3 ClientAliveInter
有字段。 on duplicate key update,当存在主键、唯一性索引冲突时,目的表中约束冲突的行除开唯一约束列的其他数据列将被更新。 insert into where条件 “导入开始前”参数选择为“清除部分数据”时配置,配置后导入前根据where条件删除目的表的数据。
update_rows Integer 增量作业更新行数,已废弃。 group_name String 组名。 bytes_read Long 作业读取的字节。由系统生成,用户无需填写。 execute_update_date Long 最近一次执行任务更新时间,单位:毫秒。由系统生成,用户无需填写。
tenant_id String 租户ID。 description String 描述。 status String 实体的发布状态,只读,创建和更新时无需填写。 枚举值: DRAFT: 草稿 PUBLISH_DEVELOPING: 发布待审核 PUBLISHED: 已发布 OFFLINE_DEVELOPING:
30 作业开发 表5 作业开发 API 说明 API流量限制(次/s) 用户流量限制(次/s) 创建作业 创建作业。 300 30 修改作业 更新作业. 300 30 查询作业列表 查询作业列表清单。 300 30 查询作业详情 查询作业详情。 100 10 查询作业文件 查询作业文件。
created_by String 创建者。 created_at Long 创建时间。 updated_by String 更新者。 updated_at Long 更新时间。 instance_id String DataArts实例ID。 状态码: 400 表5 响应Body参数 参数
应用secret。 register_time Long 创建时间。 update_time Long 更新时间。 create_user String 创建者。 update_user String 更新者。 app_type String 应用类型。 枚举值: APP:APP类型应用 IAM:IAM类型应用
created_by String 创建者。 created_at Long 创建时间。 updated_by String 更新者。 updated_at Long 更新时间。 instance_id String DataArts实例ID。 状态码: 400 表5 响应Body参数 参数
KERBEROS:安全模式选择Kerberos鉴权。 用户名 是 MRS集群的用户名。如果使用新建的MRS用户进行连接,您需要先登录Manager页面,并更新初始密码。 如果要创建MRS安全集群的数据连接,不能使用admin用户。因为admin用户是默认的管理页面用户,这个用户无法作为安全集群的
KERBEROS:安全模式选择Kerberos鉴权。 用户名 是 MRS集群的用户名。如果使用新建的MRS用户进行连接,您需要先登录Manager页面,并更新初始密码。 如果要创建MRS安全集群的数据连接,不能使用admin用户。因为admin用户是默认的管理页面用户,这个用户无法作为安全集群的
SYNC_PARTIAL_FAIL 存在失败 DELETE_FAIL 删除失败 DELETING 删除中 UPDATING 更新中 DATA_UPDATED 数据存在更新 sync_msg String 策略同步信息。 sync_log String 同步运行日志, 格式为 字段同步信息+换行符。
KERBEROS:安全模式选择Kerberos鉴权。 用户名 是 MRS集群的用户名。如果使用新建的MRS用户进行连接,您需要先登录Manager页面,并更新初始密码。 如果要创建MRS安全集群的数据连接,不能使用admin用户。因为admin用户是默认的管理页面用户,这个用户无法作为安全集群的
MapReduce服务(MRS Hudi) Hudi是一种数据湖的存储格式,在Hadoop文件系统之上提供了更新数据和删除数据的能力以及消费变化数据的能力。支持多种计算引擎,提供IUD接口,在HDFS的数据集上提供了插入更新和增量拉取的流原语。 Hudi的元数据存放在Hive中,操作通过Spark进行。 MapReduce服务(MRS
os鉴权。 用户名 是 MRS集群的人机用户,通过代理连接时是必选项。如果使用新建的MRS用户进行连接,您需要先登录Manager页面,并更新初始密码。 如果要创建MRS安全集群的数据连接,不能使用admin用户。因为admin用户是默认的管理页面用户,这个用户无法作为安全集群的