检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Redis Redis连接器用于连接Redis数据库,可以帮助应用程序快速、高效地与Redis数据库进行交互。 Redis是一种高性能的键值存储系统,常用于缓存、会话管理、实时消息传递、排行榜等场景。它支持多种数据结构,包括字符串、哈希表、列表、集合和有序集合等。Redis还提供了
指从源端获取到的JSON格式数据中,元数据集上层公共字段的路径。此处不设置。 数据类型 选择从MQS数据源获取的数据格式类型,需要与MQS实际存储的数据格式一致。存储到MQS的设备数据为JSON格式,此处选择“JSON”。 消费偏移设置 选择“最新”,即集成最新获取的消息数据。 元数据 指从源
的不同字段。 存储子路径 在MRS HDFS的“hdfs:///hacluster”路径下,待集成数据的存储路径。 存储块大小(M) ROMA Connect向MRS HDFS数据源写入数据时,每次写入的数据大小。 存储类型 选择写入MRS HDFS数据源的数据存储类型,可选择“文本文件”。
MQS消息堆积最佳实践 方案概述 Kafka将Topic划分为多个分区,消息被分布式存储在分区中。同一个消费组内,一个消费者可同时消费多个分区,但一个分区在同一时刻只能被一个消费者消费。 在消息处理过程中,如果客户端的消费速度跟不上服务端的发送速度,未处理的消息会越来越多,这部分
的首选数据库。 MySQL默认端口为3306,但是管理员可以根据需要将其更改为其他端口。MySQL支持多种存储引擎,包括InnoDB、MyISAM、MEMORY等,每个存储引擎都有其自己的优缺点,可以根据需要进行选择。 创建MySQL连接 登录新版ROMA Connect控制台。
Connect已接入源端和目标端数据源,具体请参考接入数据源。 ROMA Connect具备向目标端数据源写入数据的权限。 若需要配置同步异常的数据存储,需要完成OBS数据源的接入配置,具体请参见接入OBS数据源。 操作步骤 登录ROMA Connect控制台,在“实例”页面单击实例上的“查看控制台”,进入实例控制台。
dameng数据源类型(tag:hcs) opengauss : opengauss数据源类型(tag:hcs) type String 脚本类型 SQL:sql语句 SP:存储过程 object_name String 返回对象。 最小长度:1 最大长度:32 content String API脚本内容 请对脚本进行base64编码
参数 配置说明 Topic名称 选择要写入数据的Topic名称。 Key 填写消息的Key值,表示消息存储在指定分区,可以当成有序消息队列使用。如果Key为空,则消息分布式存储在不同的消息分区。 元数据 定义写入到目标端Kafka消息的数据字段。源端有多少个字段需要集成,则目标端需要定义相同个数的元数据。
file_name_prefix 否 String 文件名前缀,文件型数据源为必填项。 null_format 否 String 空格格式符,定义文件中空格的格式。 文件型数据源为必填项。 remark_date_format 否 String 文件名后缀,文件型数据源为必填项。 add_header 否
我们用区域和可用区来描述数据中心的位置,您可以在特定的区域、可用区创建资源。 区域(Region):从地理位置和网络时延维度划分,同一个Region内共享弹性计算、块存储、对象存储、VPC网络、弹性公网IP、镜像等公共服务。Region分为通用Region和专属Region,通用Region指面向公共租户提供通用
Object... prepareValue) 执行SQL语句、存储过程或NOSQL查询语句 方法详情 public Object execute(String sql, Object... prepareValue) 执行SQL语句、存储过程或NOSQL查询语句 输入参数 prepareV
CacheUtils类说明 路径 com.huawei.livedata.lambdaservice.util.CacheUtils 说明 提供缓存的存储和查询功能。 使用示例 在使用CacheUtils之前,需要new一个新对象方可调用。 CacheUtils的get方法只允许使用白名单里的几项作为键:
创建数据集成任务(组合任务) 创建数据集成任务(编排任务) 自定义数据源 ROMA Connect支持常见的数据源类型,如关系型数据库、大数据存储、半结构化存储、消息系统等。如果ROMA Connect支持的数据源类型无法满足您的数据集成场景,您可以自行开发一个数据源读写插件,通过标准的RESTful接口与ROMA
PC UA两种协议的设备接入,本章介绍通过Modbus协议接入设备。 ROMA Connect不会直接存储设备上报的数据,您需要配置数据转发规则,把设备数据转发到其他服务进行存储。 前提条件 设备与ROMA Connect实例一般通过公网互通,请确保ROMA Connect实例已绑定弹性IP。
PC UA两种协议的设备接入,本章介绍通过OPC UA协议接入设备。 ROMA Connect不会直接存储设备上报的数据,您需要配置数据转发规则,把设备数据转发到其他服务进行存储。 前提条件 设备与ROMA Connect实例一般通过公网互通,请确保ROMA Connect实例已绑定弹性IP。
创建Topic 概述 创建用于存储消息的Topic,供消息生产方发布消息和供消息消费方订阅消息。 前提条件 每个Topic都要归属到某个集成应用下,在创建Topic前您需要有可用的集成应用,否则请提前创建集成应用。 操作步骤 登录ROMA Connect控制台,在“实例”页面单击
配置索引生命周期策略(可选) ElasticSearch存储的数据,默认未设置过期时间,用户可根据磁盘空间情况,为ElasticSearch数据设置索引生命周期策略。 创建生命周期策略 登录Kibana可视化界面。 访问地址:IP:Port 其中,IP为ELK所部署服务器的IP;
通常在调用API的鉴权过程中,您需要用到账号、用户和密码等信息。 区域(Region) 从地理位置和网络时延维度划分,同一个Region内共享弹性计算、块存储、对象存储、VPC网络、弹性公网IP、镜像等公共服务。Region分为通用Region和专属Region,通用Region指面向公共租户提供通用
Data Integration,简称FDI)是ROMA Connect的数据集成组件。FDI支持多种数据源(文本、消息、API、关系型数据和非关系型数据等)之间的灵活、快速、无侵入式的数据集成,可以实现跨机房、跨数据中心、跨云的数据集成方案,并能自助实施、运维、监控集成数据。 例
查看消息内容 概述 ROMA Connect提供了可视化的消息查询功能,可在控制台界面查看Topic中存储的消息数据,可以更直观方便的查看消息正文。 同一时间只能查询一个Topic的消息。 操作步骤 登录ROMA Connect控制台,在“实例”页面单击实例上的“查看控制台”,进入实例控制台。