检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
CodeArts Artifact CodeArts Artifact连接器用于对接华为云CodeArts Artifact服务。 制品仓库(CodeArts Artifact),是面向软件开发者提供软件发布的云服务,提供软件仓库、软件发布、发布包下载、发布包元数据管理等功能,通过安全可靠
Pipeline连接器用于对接华为云CodeArts Pipeline服务。 流水线(CodeArts Pipeline)提供可视化、可定制的持续交付流水线服务,实现缩短交付周期和提升交付质量的效果 前提条件 使用CodeArts Pipeline前,需要开通CodeArts Pipeline服务。 创建CodeArts
例。 完成目标端信息配置后,继续进行下一部分配置,配置数据映射规则。 OBS 返回页首 任务的“集成模式”为“定时”时,可以选择OBS作为目标端数据源。 在创建任务页面中配置目标端信息。 表21 目标端OBS信息 参数 配置说明 目标端实例 配置为当前正在使用的ROMA Conn
数据后先进行处理再写入目标端,脚本样例参见脚本映射样例。 OBS 返回页首 任务的“集成模式”为“定时”时,可以选择OBS作为目标端数据源,具体配置如下。 表9 目标端OBS信息 参数 配置说明 对象类型 选择写入OBS数据源的数据文件类型,当前支持“文本文件”和“二进制文件”。
函数工作流 函数工作流连接器用于对接华为云函数工作流(FunctionGraph)服务,可以调用已创建的函数进行数据处理,后续节点可引用变量的方式引用函数处理的结果。 前提条件 使用函数工作流服务时,还需要具备项目级服务FunctionGraph Administrator角色权限。
创建数据集成任务(普通任务) 配置任务基本信息 配置源端数据信息 配置目标端数据信息 配置数据映射规则 配置异常数据存储(可选) 配置任务完成后执行(可选) 父主题: 数据集成指导
创建数据集成任务(组合任务) 配置Oracle CDC(LogMiner) 配置Oracle CDC(XStream) 配置MySQL CDC(Binlog) 配置SQL Server CDC 创建组合任务 父主题: 数据集成指导
创建数据集成任务(编排任务) 配置编排任务流程 配置源端数据信息 配置目标端数据信息 配置映射规则 父主题: 数据集成指导
K代码示例调试功能。 URI GET /v2/{project_id}/instances/{instance_id}/assets/jobs/{job_id} 表1 路径参数 参数 是否必选 参数类型 描述 instance_id 是 String 实例ID。 project_id
向目标端写入数据。 创建集成任务。 数据集成任务规定了源端到目标端的数据集成规则,包括两端的数据类型、数据字段的映射规则、数据集成的过滤条件等。ROMA Connect支持创建两种数据集成任务: 创建数据集成任务:普通数据集成任务,有定时任务和实时任务两种集成模式,支持所有默认类
任务管理 创建普通任务 查询任务列表 统计不同类型不同状态任务数量 更新普通任务 查询指定任务的信息 删除指定任务 手工触发单个任务 手工停止当前执行的任务 创建调度计划 查询调度计划 修改调度计划 批量启动或停止任务 创建组合任务 初始化组合任务 修改组合任务 重置组合任务进度
ROMA Connect支持的数据源 数据集成任务支持的数据源 表1中为数据集成所支持的全量数据源类型,具体每种数据源所支持的任务模式和集成模式请参见接入数据源。 连接数据源的用户需要有创建连接数据库会话的权限。 表1 数据集成支持的数据源 数据源类型 支持的版本 API 无版本号
mapping field”错误 API到MySQL的定时任务时会出现源端报“connect timeout”错误 Kafka到Mysql的实时任务时,MQS中的Topic下有数据,但是FDI任务没有采集到数据。 Mysql到Mysql的定时任务,源端有类型为tinyint(1),值为2的字段,但是采集到目标端值就变成了1
数据源 数据源连接测试失败排查操作 MRS Hive数据源测试连接失败 FTP数据源测试连接失败 OBS数据源测试连接失败 Kafka数据源连接失败
任务监控管理 查询任务监控信息列表 查询单个任务的日志详情 查询单次调度日志详情 查询指定任务的调度信息总览 父主题: 数据集成API
forma”错误 FDI任务失败,修改问题后任务写入仍然报错 表名存在乱码导致Camel访问数据库失败 插入数据违反非空约束 DWS变成只读状态导致FDI任务运行失败 向DWS写入数据时越来越慢怎么解决
实例管理 创建ROMA Connect实例 创建ROMA Site协同版实例 实例配置管理 变更ROMA Site协同版实例规格 恢复/迁移集成资产
数据集成任务管理 查看数据集成任务 导入导出数据集成任务 附录:QuartZ Cron表达式配置说明 父主题: 数据集成指导
时状态数据偏离正常运行的数据区间,可及时提醒设备保养检修。 数据转换与分析 ROMA FDI服务将工业SaaS产生的数据导入至ROMA Connect,收集并传输到MapReduce服务,帮助企业进行大数据分析,优化生产策略。 图1 工业互联网集成 父主题: 应用场景
数据集成组合任务 源数据库重启等操作对组合任务是否有影响? 如何修复意外重启等原因导致的XStream模式Oracle CDC功能异常? 父主题: 数据集成