检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
PI请求可以涉及多个数据源,例如取第一个数据源查询结果作为第二个数据源的参数。 以MySQL为例说明,假设数据API有数据源1和数据源2,user01是数据源1的数据表和user02是数据源2的数据表,两张表的结构如下: 表1 表结构 数据源 表名 参数 数据源1 user01 id(int)
例如集团企业场景中,企业与合作伙伴使用的数据源不一样,难以形成企业之间有效的信息传输。FDI提供了多种数据源之间转换的方式,支持MySQL、Kafka、API等主流格式之间的转换。 表1 FDI功能 功能 简介 数据集成任务的生命周期管理 FDI支持修改数据集成任务的信息、查看数据集成任务的运行报告、查看数
unauthorized”错误 Kafka集到Mysql目标端报“cannot find record mapping field”错误 API到MySQL的定时任务时会出现源端报“connect timeout”错误 Kafka到Mysql的实时任务时,MQS中的Topic下有数据,但是FDI任务没有采集到数据。
数据源名称 填写数据源的名称,自定义。 集成应用 选择在ROMA Connect注册设备中所创建的集成应用。 描述 填写数据源的描述信息。 连接模式 选择“默认”方式。 连接地址 填写MySQL数据库的访问IP地址。 端口 填写MySQL数据库的访问端口,MySQL的默认访问端口为3306,以数据库的实际配置为准。
Artifact服务。 制品仓库(CodeArts Artifact),是面向软件开发者提供软件发布的云服务,提供软件仓库、软件发布、发布包下载、发布包元数据管理等功能,通过安全可靠的软件仓库,实现软件包版本管理,提升发布质量和效率,实现产品的持续发布。 前提条件 使用CodeArts Artifact前,需要开通CodeArts
在创建采集任务之前,您需要先接入数据源,确保可以正常从数据源采集模型。根据数据源类型的不同,数据源的接入配置有所差异。 操作步骤 接入DWS数据源 接入GaussDB数据源 接入FI Hive数据源 接入MySQL数据源 接入MongoDB数据源 接入MRS Hive数据源 接入MRS HBase数据源
out,由于格式限定,出参的value也需要填写,可填写符合数据类型的任意值,不影响输出结果。 数据API中对存储过程的调用,用String和int来区分字符串和数值,无需加单引号,这一点和SQL要求不一样。 在后端服务的Headers、Parameters或者Body中定义的参数名不能相同,否则将被覆盖。
OPENGAUSS:GaussDB数据源 MYSQL:MySQL数据源 ORACLE:Oracle数据源 POSTGRESQL:PostgreSQL数据源 SQLSERVER:SQL Server数据源 TAURUS:GAUSSDB(FOR MYSQL)数据源 DIS:DIS数据源 DWS:DWS数据源
Connect 介绍怎样配置检索 03:50 配置检索 应用与数据集成平台 ROMA Connect 介绍怎样创建设备 01:28 创建设备 应用实践 应用与数据集成平台 ROMA Connect 介绍API到Kafka的数据集成 03:18 API到Kafka的数据集成 应用与数据集成平台
找到原来已下载的AK/SK文件,文件名一般为credentials.csv。 描述 填写连接器的描述信息,用于识别不同的连接器。 支持的动作 调用函数 配置参数 参数 说明 区域 FunctionGraph服务所在的区域。 项目 FunctionGraph服务所在的项目。 函数
完成后运行任务,可以将源端MQS数据源中的数据,迁移到MySQL数据源的表中。 父主题: 数据集成开发指导
步创建的产品。 下载EdgeShell安装包。 单击设备名称,进入设备详情页,在基础信息页签中,单击的“EdgeShell”项的“下载安装包”,下载EdgeShell安装包。 启动EdgeShell。 EdgeShell支持运行在Windows和Linux环境中,根据不同的环境执行不同的启动脚本。
创建request,过程中需要用到如下参数,参数值可参考获取API的调用信息获取。 Key:API所授权凭据的Key。根据实际情况填写。 Secret:API所授权凭据的Secret。根据实际情况填写。 认证使用的AK和SK硬编码到代码中或者明文存储都有很大的安全风险,建议在配置文件或者环境变量中密文存
参数 说明 连接名称 填写连接器实例名称。 描述 填写连接器的描述信息,用于识别不同的连接器。 Access Key 当前账号的AK(Access Key ID)。请参考访问密钥获取AK,如果已生成过AK/SK,找到原来已下载的AK/SK文件,文件名一般为:credentials.csv。
数据集成组合任务 目标表中配置的RowId字段类型不正确导致写入数据失败 读取MySQL的binlog时报“binlog probably contains events generated with statement or mixed based replication forma”错误
步创建的产品。 下载EdgeShell安装包。 单击设备名称,进入设备详情页,在基础信息页签中,单击的“EdgeShell”项的“下载安装包”,下载EdgeShell安装包。 启动EdgeShell。 EdgeShell支持运行在Windows和Linux环境中,根据不同的环境执行不同的启动脚本。
步实时数据的场景。实现一个源端多个数据表到一个目标端多个数据表的实时同步及增量同步,提高了数据的集成同步效率。 组合任务支持数据表之间字段(列)级别的灵活映射,例如源端一个数据表中的多个字段可分别映射到目标端的不同数据表中,或者源端多个数据表中的字段可以映射到目标端的一个数据表中。
接入Kafka数据源 接入MySQL数据源 接入MongoDB数据源 接入MQS数据源 接入MRS Hive数据源 接入MRS HDFS数据源 接入MRS HBase数据源 接入MRS Kafka数据源 接入OBS数据源 接入Oracle数据源 接入PostgreSQL数据源 接入Redis数据源
果您是使用的开源Kafka客户端,请参考MQS连接开发(开源客户端)。 前提条件 已有可用的Topic,否则请提前创建Topic。 根据ROMA Connect实例的Kafka版本,下载对应版本的开源Kafka命令行工具。 您可以在ROMA Connect实例控制台的“实例信息”
统计CDC任务(组合任务)当前在处理的还未提交的最早事务对应时间距离实时的时间差。 对于MySQL类型的CDC任务,此指标表示任务正在读取的Binlog日志对应的时间与当前系统时间的差值,代表了实时读取的延迟情况。此指标的值与任务调度日志页面中显示的“读端实时监控”是一致的。 ≥0 单位:毫秒 任务