检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
安全的数据获取和数据发布能力。如果没有这些数据治理工具，元数据缺失，湖里的数据质量就没法保障，最终会由数据湖变质为数据沼泽。 随着大数据和AI的发展，数据湖中数据的价值逐渐水涨船高，价值被重新定义。数据湖能给企业带来多种能力，例如实现数据的集中式管理，帮助企业构建更多优化后的运营
数据开发API（V2） 作业开发API
Spark版本 否 2.3.2 2.4.5 3.1.1 作业特性 否 用户作业使用的Spark镜像类型（当前支持基础型、AI增强型和自定义的Spark镜像）。 基础型 AI增强型 自定义镜像 当选择“自定义镜像”时，请选择自定义的镜像名称，版本号系统自动展示。您可以前往容器镜像服务进行设置。
开发实时处理单任务MRS Flink SQL作业 对已新建的作业进行开发和配置。 开发单任务模式的实时处理Flink SQL作业，请您参考开发SQL脚本、配置作业参数、保存作业和模板章节。 前提条件 已新建作业。 当前用户已锁定该作业，否则需要通过“抢锁”锁定作业后才能继续开发作
分页的起始页，默认值为0。取值范围大于等于0。 status 否 String 实例运行状态： waiting： 等待运行 running：运行中 success： 运行成功 fail： 运行失败 running-exception： 运行异常 pause： 暂停 manual-stop：
业务场景说明 开发并调度Import GES作业 假设MySQL中的原始数据表是每日更新的，我们希望每天都能将基于原始数据的最新图数据更新到GES中，则需要使用数据开发按如下步骤编排作业，并定期调度。 在DataArts Studio控制台首页，选择对应工作空间的“数据开发”模块，进入数据开发页面。
数据开发操作列表 云审计服务（Cloud Trace Service，简称CTS）为用户提供了云账户下资源的操作记录，可以帮您记录相关的操作事件，便于日后的查询、审计和回溯。 表1 支持云审计的关键操作列表 操作名称 资源类型 事件名称 创建作业 job createJob(api)
查询统计用户相关的总览开发指标 功能介绍 查询统计用户相关的总览开发指标。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/service/statistic/apis-overview 表1 路径参数 参数 是否必选 参数类型 描述 project_id
数据开发API（V1）概览 表1 数据开发API（V1）类型 类型 说明 连接管理（待下线） 连接管理类型接口。 说明： 连接管理能力由管理中心统一提供，相关接口已不再维护，推荐使用管理中心API进行连接管理。 脚本开发 脚本开发类型接口。 资源管理 资源管理类型接口。 作业开发 作业开发类型接口。
数据开发API（V2）概览 表1 数据开发API（V2）类型 类型 说明 作业开发 作业开发类型接口。 作业开发 表2 作业开发 API 说明 API流量限制（次/s） 用户流量限制（次/s） 创建补数据实例 创建一个补数据实例。 100 10 查询补数据实例 查询补数据实例列表，支持分页查询。
开发实时处理单任务MRS Flink Jar作业 前提条件 参见新建作业创建一个实时处理的单任务Flink Jar作业。 配置MRS Flink Jar作业 表1 配置MRS Flink Jar作业属性参数 参数 是否必选 说明 Flink作业名称 是 输入Flink作业名称。
CDM作业改名后，在数据开发中如何同步？ 问题描述 CDM作业改名后，在数据开发中不能同步。 解决方案 CDM作业改名后，需要在数据开发作业的CDM节点属性中，重新选择改名后的CDM作业名称。 父主题： 数据开发
通过数据开发实现数据增量迁移 DataArts Studio服务的DLF组件提供了一站式的大数据协同开发平台，借助DLF的在线脚本编辑、周期调度CDM的迁移作业，也可以实现增量数据迁移。 这里以DWS导入到OBS为例，介绍DLF配合CDM实现增量迁移的流程： 获取CDM作业的JSON
false表示关闭细粒度认证。 fgac_type 否 String 细粒度认证类型，开启细粒度认证时才生效。"0"表示开发态细粒度认证，支持数据开发细粒度脚本运行、作业测试运行，"1"表示调度态细粒度认证，支持数据开发细粒度脚本运行、作业测试运行、作业执行调度。 响应参数 状态码： 200 表5 响应Body参数
前提条件 已完成作业开发。如何开发作业，请参见开发Pipeline作业。 操作步骤 参考访问DataArts Studio实例控制台，登录DataArts Studio管理控制台。 在DataArts Studio控制台首页，选择对应工作空间的“数据开发”模块，进入数据开发页面。 在数据开发主界面的左侧导航栏，选择“数据开发
Studio控制台首页，选择对应工作空间的“数据开发”模块，进入数据开发页面。 在数据开发主界面的左侧导航栏，选择“数据开发 > 作业开发”。 在作业目录中，双击已开发完成的作业名称，进入作业开发页面。 在作业画布或编辑器上方单击“提交”，提交版本。选择审批人，描述内容长度最多为128个字符
数据开发页面。 在数据开发主界面的左侧导航栏，选择“数据开发 > 脚本开发”。 单击脚本目录中的，选择“显示复选框”。 图1 显示脚本复选框 勾选需要解锁的脚本，单击 > 批量解锁。弹出“解锁成功”提示。 图2 批量解锁 父主题： （可选）管理脚本
前提条件 已完成脚本开发，请参见开发脚本。 操作步骤 参考访问DataArts Studio实例控制台，登录DataArts Studio管理控制台。 在DataArts Studio控制台首页，选择对应工作空间的“数据开发”模块，进入数据开发页面。 在数据开发主界面的左侧导航栏，选择“数据开发
调用数据开发接口报错“Workspace does not exists”怎么处理？ 问题描述 调用数据开发接口，报错“Workspace does not exists”。 解决方案 代码的request请求的header要添加项目Id，即header.add("X-Project-Id"，项目Id)。
在DataArts Studio控制台首页，选择对应工作空间的“数据开发”模块，进入数据开发页面。 在数据开发主界面的左侧导航栏，选择“数据开发 > 作业开发”。 在作业目录中，双击作业名称，进入作业开发页面。 在作业开发页面，单击画布右侧“作业基本信息”页签，展开配置页面，配置作业实例超时时间。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
