检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Connect可以将这些数据以文本文件的形式存储在OBS中。 约束与限制 如果需要配置“异常数据存储”,请展开“异常数据存储”模块参照表1进行配置,如果不需要配置,请将“异常数据存储”模块折叠,否则影响任务保存。 配置异常数据存储 在配置异常数据存储前,您需要提前完成OBS数据源的接入配置,具体请参见接入OBS数据源。
存储过程调用 当前数据API不支持直接创建存储过程,但是可以执行MySQL、Oracle、PostgreSQL这三种数据源的存储过程,以Oracle数据库为例说明。 数据源说明 假设数据库里面有一张表,表结构如下建表语句所示: create table sp_test(id number
在数字化转型过程中,一些大型企业的业务系统数据格式多样化,难以在业务系统间形成有效信息传输。如何实现多种数据类型之间灵活、快速的数据集成和转换,成为企业数字化转型所面临的重要问题。 比如企业中不同业务系统数据的存储格式、存储位置各不相同,当一个业务系统需要获取另一个业务系统的某些数据时,就会出现获
IllegalArgumentException: {IP address}_{timestamp}”错误 原因分析 ROMA Connect实例未绑定弹性公网IP。 解决方案 为ROMA Connect实例绑定弹性公网IP,绑定成功后再运行demo。 父主题: 设备集成
中需要耗费大量时间,进一步增加道路交通压力。 交通部门无法实时掌握城市停车位使用情况,难以针对停车问题制定有效的交通缓解措施。 解决方案 本章节介绍如何通过ROMA Connect对传统停车场的管理系统进行数字化改造,实现停车场车辆进出、计费、停车位状态的智能化管理。 停车场车位
Hive目标端写入时出现数据乱码 原因分析 创建任务时,目标端存储类型选择与建表时类型不一致。 比如建表时存储类型为text(文本文件),而创建任务时目标端存储类型选择了RCFile格式。 解决方案 修改界面选择的存储类型与建表时一致即可。 父主题: 数据集成任务
构造请求 本节介绍REST API请求的组成,并以调用IAM的获取用户Token接口说明如何调用API,该API获取用户的Token,Token可以用于调用其他API时鉴权。 请求URI 请求URI由如下部分组成。 {URI-scheme}://{Endpoint}/{resource-path}
创建API的时候“安全认证”选择的是“App认证”,创建数据源的时候“认证方式”选了“AppKey Auth”,“App认证方式”选择了“Secret”。 解决方案 解决方案如下: 创建数据源的时候“认证方式”选择“None”。 将“App认证方式”修改为“Default”。 父主题: 数据集成任务
的信号,则表明该消息已经被ROMA Connect可靠存储。 消息消费 消息消费时,消费者需要确认消息是否已被成功消费。 生产的消息被依次存储在ROMA Connect的存储介质中。消费时依次获取ROMA Connect中存储的消息。消费者获取消息后,进行消费并记录消费成功或失败的状态,并将消费状态提交到ROMA
生异常,将不会提交消费偏移量,等待修复问题后,重启任务,可以重新消费并处理未成功入库的数据。所以即使修改了任务配置,如果数据还是不符合目标端的要求,那么任务仍然执行失败。 解决方案 可参考以下三种方法进行处理: Kafka通道的topic中的数据老化时间为6小时,可以等待脏数据被清理掉后启动任务。
在DWS磁盘空间达到阈值,例如80%,或者某些大数据量的表存在数据倾斜时,DWS集群会变为只读状态。从FDI侧来看,在某个时间点,所有访问DWS的任务均异常停止。 解决方案 处理DWS只读状态问题,恢复数据库服务后,如果FDI的任务停止时间没有超过6小时,可以直接启动任务。如果已经超过6小时,通道内的数据已经过
用于设备发布消息,消息处理按照规则引擎配置进行,用户可灵活使用。 {产品标识}/in/{设备标识} 订阅 用于设备订阅消息,消息处理按照规则引擎配置进行,用户可灵活使用。 /v1/devices/{设备标识}/datas 发布 用于设备上报基于MQTT的配电物联网通信协议的消息,消息处理先按照此
目标端任务报任务运行超时 原因分析 任务名称超过64个字符,且多个定时任务名称前64位都相同。 解决方案 修改任务名称长度及多个任务名称前64位相同的问题。 父主题: 数据集成任务
同的性能规格,分配的RCU数量越多,集成能力的性能规格越高。 连接器 ROMA Connect支持常见的数据源类型,如关系型数据库、大数据存储、半结构化存储、消息系统等。如果ROMA Connect支持的数据源类型无法满足您的数据集成场景,您可以自行开发一个数据源读写插件,通过标准的RESTful接口与ROMA
的不同字段。 存储子路径 在MRS HDFS的“hdfs:///hacluster”路径下,要集成数据的存储路径。 存储块大小(M) ROMA Connect从MRS HDFS数据源获取数据时,每次读取的数据大小。 存储类型 选择MRS HDFS数据源中数据的存储类型,需要与MRS
库之间的连接,并管理数据的传输。 数据仓库服务GaussDB(DWS)是一种基于华为云基础架构和平台的在线数据分析处理数据库,提供即开即用、可扩展且完全托管的分析型数据库服务,兼容ANSI/ISO标准的SQL92、SQL99和SQL 2003语法,同时兼容PostgreSQL/O
MRS Hive写入时数据全部写在第一个字段里 原因分析 建表时没有使用列分隔符。 解决方案 在数据库中执行以下命令设置分隔符: alter table 表名set serdeproperties('field.delim'='分隔符') 父主题: 数据集成任务
配置设备数据转发MQS 概述 ROMA Connect不会直接存储设备上报的数据,用户需要通过配置数据转发规则,把设备数据转发到其他服务进行存储。本实践中,把设备数据转发到ROMA Connect的消息集成MQS。 操作步骤 创建用于存储设备数据的消息Topic。 在左侧的导航栏选择“消息集成
Connect的高度可扩展性设计,支撑园区海量的数据传输与存储,提升数据传输效率。 融合IT、OT、AI,构建智能运营中心 由于ROMA Connect打通了数据集成与共享的通道,企业可以借助企业级人工智能、视频分析、大数据云服务等解决方案,打造真正的智慧园区大脑。 集中+分布式的架构支撑园区业务
Topic,即基础Topic。用户也可以根据实际情况自定义Topic,具体操作请参见为设备添加自定义Topic。 设备影子 设备影子是用于存储设备上报状态、上报值等信息,可通过列表和JSON文档的形式查看。 Modbus 基本信息 可查看设备标识、在线状态、连接地址、边缘连接配置以及下载EdgeShell等。