检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在数据开发主界面的左侧导航栏,选择“数据开发 > 作业开发”。 选择CDM Job节点,并配置节点属性参数。 图1 配置CDM Job节点属性参数 选择CDM集群名称、关联已存在的CDM作业。 配置该作业的参数,引入作业参数名称maxtime,如下图所示。 图2 配置作业参数 保存并提交版本。子作业sub创建完成。
Kafka连接 介绍 通过DMS Kafka连接,可以连接DMS Kafka普通队列或者专享版Kafka。目前仅支持从DMS Kafka导出数据到云搜索服务。 连接样例 { "links": [ { "link-config-values": { "configs":
维管理,如查看运行状态,对任务进行终止、重跑等操作。 只有支持委托提交作业的MRS集群,才支持质量作业周期调度。 支持委托方式提交作业的MRS集群有: MRS的非安全集群。 MRS的安全集群,集群版本大于2.1.0,并且安装了MRS 2.1.0.1以上的补丁。 表3 配置周期调度参数
发布的API。 本章以Chrome浏览器为例,因此需要已安装Chrome浏览器。 约束与限制 如需在本地调用专享版API,则需在创建专享版集群时绑定一个弹性公网IP,作为实例的公网入口。共享版API默认可通过公网访问。 调用数据服务API时,如果查询及返回数据的总时长超过默认60
dev”后缀,以与生产环境数据库名进行区分。 对于DWS、MRS Hive和MRS Spark这三种数据源,如果在创建数据连接时选择同一个集群,则需要配置数据源资源映射的DB数据库映射关系进行开发生产环境隔离。 图4 DB配置 父主题: 管理中心
movies_obs2dws(CDM Job节点):在节点属性中,选择步骤2:数据集成中的CDM集群,并关联CDM作业“movies_obs2dws”。 ratings_obs2dws(CDM Job节点):在节点属性中,选择步骤2:数据集成中的CDM集群,并关联CDM作业“ratings_obs2dws”。 Wa
日志显示时间比本地时区时间少8个小时。因此在CDM迁移数据到云搜索服务的时候,如果是通过CDM自动创建的索引和类型(例如图2中,目的端的“date_test”和“test1”在云搜索服务中不存在时,CDM会在云搜索服务中自动创建该索引和类型),则CDM默认会将时间类型字段的格式设置为“yyyy-MM-dd
角色授予成员后,成员即具有了角色的所有权限。每位成员至少要拥有一个角色,并且可以同时拥有多种角色。 数据集成集群 一个数据集成集群运行在一个弹性云服务器之上,用户可以在集群中创建数据迁移作业,在云上和云下的同构/异构数据源之间批量迁移数据。 数据源 即数据的来源,本质是讲存储或处
务的Endpoint可从终端节点Endpoint获取。 {project_id}:项目ID。 {cluster_id}:集群ID,可在CDM集管理界面,单击集群名称查看。 修改JSON 根据您的业务需要,可以修改JSON Body。这里以1天为周期,where子句作为抽取数据时的
Studio控制台购买的对应资源组使用。 如果当前绑定区域有一个或多个对应资源组,则扣费方式是先扣除已购买资源包内的时长额度,超出部分以按需计费的方式进行结算(资源包对应多个集群时,会出现每月订购周期内可使用时长不足的情况)。 例如购买了1个月的套餐包(745小时/月),按区域和实例规格匹配到两个资源后,从当前开始
source_sdi节点:为CDM Job节点,通过CDM节点将OBS上的数据导入到MRS Hive的原始表中。其中CDM集群名称和作业名称分别选择在步骤3:数据集成中的集群和迁移作业(图中仅为示例,以实际集群名和迁移作业名为准)。 图8 source_sdi节点属性 demo_etl_sdi_dwi节点:为MRS
后端配置。 表4 InstanceHostDTO 参数 参数类型 描述 instance_id String 集群ID编号。 instance_name String 集群名。 intranet_host String 内网地址。 external_host String 外网地址。
据、重跑等场景。 表3 血缘关系 参数 说明 输入 新建 单击“新建”,在“类型”的下拉选项中选择要新建的类型。可以选择DWS,OBS,CSS,HIVE,CUSTOM和DLI类型。 确定 单击“确认”,保存节点输入功能的参数配置。 取消 单击“取消”,取消节点输入功能的参数配置。
请求Body参数 参数 是否必选 参数类型 描述 api_id 否 String API编号。 instance_id 否 String 集群ID编号。 app_id 否 String APP编号。 apply_type 否 String 申请类型。 枚举值: APPLY_TYPE_AUTHORIZE:API主动授权
String 应用ID编号。 app_name String 应用名称。 instance_id String 集群实例id。 instance_name String 集群实例名称。 api_using_time Long 使用截止时间。 approval_time Long 授权时间。
查看授权”,进入API完整信息界面。 单击“白名单信息”页签,在“白名单信息”页签中单击“新建”。 在新建白名单窗口,设置需要授权的租户名称、租户ID、授权的截止时间、选择集群(仅专享版涉及),然后单击“确认”,完成IAM认证方式的API针对其他华为账号的授权。 租户名称和租户ID,需要登录到待授权的账号或其归属
转储服务类型 是 选择转储服务类型,目前支持转储至: CloudTable:通道里的流式数据存储在DIS中,并实时导入表格存储服务Cloudtable集群的HBase/OpenTSDB表。 OBS:通道里的流式数据存储在DIS中,并周期性导入对象存储服务OBS;通道里的实时文件数据传输完成后,导入OBS。
MRS_MANAGED managed_cluster_id String 纳管角色所在集群id(仅纳管类权限集需要)。 managed_cluster_name String 纳管角色所在集群名称(仅纳管类权限集需要)。 project_id String 项目id。 domain_id
才支持此参数。 type为DLISQL时,可以通过查看所有数据库接口获取数据库信息。 type为其他类型的时候,需要通过JDBC方式连上集群,查询数据库信息。默认值为空。 queueName 否 String DLI资源队列名称,当type参数值为DLISQL时,才支持此参数。
用。如有需要可以通过白名单授权的方式授权给其他账号,详见通过白名单授权IAM认证方式API。 如需在本地调用专享版API,则需在创建专享版集群时绑定一个弹性公网IP,作为实例的公网入口。共享版API默认可通过公网访问。 Token的有效期为24小时,需要同一个Token鉴权时,可以先缓存起来,避免频繁调用。