应用与数据集成平台 ROMA CONNECT-什么是应用与数据集成平台:FDI

时间:2024-09-04 10:21:58

FDI

快速数据集成FDI(Fast Data Integration,简称FDI)是ROMA Connect的数据集成组件。FDI支持多种数据源(文本、消息、API、关系型数据和非关系型数据等)之间的灵活、快速、无侵入式的数据集成,可以实现跨机房、跨数据中心、跨云的数据集成方案,并能自助实施、运维、监控集成数据。

例如集团企业场景中,企业与合作伙伴使用的数据源不一样,难以形成企业之间有效的信息传输。FDI提供了多种数据源之间转换的方式,支持MySQL、Kafka、API等主流格式之间的转换。

表1 FDI功能

功能

简介

数据集成任务的生命周期管理

FDI支持修改数据集成任务的信息、查看数据集成任务的运行报告、查看数据集成任务的运行日志、查看数据集成任务状态,完成数据集成任务的生命周期管理功能。

灵活的数据读写

  • 支持 MySQL、文本文件、消息、API等多种数据的分片读取和写入。
  • 如果服务意外中断 ,修复服务之后FDI支持自动修复任务。
  • 支持任务调度、任务监控、任务中断续读。

可靠的数据传输通道

FDI可以持续监测数据通道中的数据,支持100个以上的线程并发执行。FDI实时监测消息队列把数据实时写入目标队列。

任务调度

FDI提供全面、灵活、高可用的任务调度服务,支持通过API或以消息方式进行数据集成。按照时间、数据数量等任务触发规则来调度任务。根据任务配置,为插件分配任务,并监控和记录任务的执行状态。

企业根据不同的业务需求,可以选择不同的数据集成方式:

  • 实时增量集成适用于需要实时监控数据变化的业务场景,例如收集生产线上设备的实时参数。
  • 实时全量集成适用于需要实时监控所有历史数据的业务场景,例如统计供应商合作伙伴的出货量。
  • 定时增量集成适用于监控一段时间内数据变化的业务场景,例如企业采用新的生产策略后,验证生产效率是否达到预期效果。
  • 定时全量集成适用于监控一段时间内所有历史数据的业务场景,例如统计上下班高峰期内出入园区的车辆数目。

监控告警

对创建的数据集成任务的运行情况进行监控,并对异常的任务进行处理,保证业务正常运行。

support.huaweicloud.com/productdesc-roma/what-is-ROMA.html