华为云用户手册

  • ROMA资产市场权限 如表4所示,包含了新版ROMA Connect资产中心的相关操作权限。 表4 资产市场权限 系统角色/策略名称 描述 类别 依赖关系 ROMA Assets FullAccess ROMA资产市场管理员权限,支持资产发布、使用、审批。 系统策略 Tenant Administrator ROMA Assets ResourceUser ROMA资产市场资源使用者相关权限,支持资产订阅和使用。 系统策略 无 ROMA Assets ResourceProvider ROMA资产市场资源提供者相关权限,支持资产发布。 系统策略 无 ROMA Assets ResourceAuditor ROMA资产市场的资源审核者权限,支持资产审核。 系统策略 无
  • 应用业务模型ABM权限 如表5所示,包括了ABM的所有系统权限。 表5 ABM系统权限 系统角色/策略名称 描述 类别 依赖关系 ROMA ABM FullAccess ROMA应用业务模型服务所有权限。 系统策略 无 ROMA ABM CommonOperations ROMA应用业务模型服务普通用户,拥有除了创建、修改、删除实例之外的所有权限。 系统策略 无 ROMA ABM ReadOnlyAccess ROMA应用业务模型服务只读权限。 系统策略 无
  • ROMA Connect权限 默认情况下,管理员创建的 IAM 用户没有任何权限,需要将其加入用户组,并给用户组授予策略或角色,才能使得用户组中的用户获得对应的权限,这一过程称为授权。授权后,用户就可以基于被授予的权限对云服务进行操作。 ROMA Connect部署时通过物理区域划分,为项目级服务。授权时,“作用范围”需要选择“区域级项目”,然后在指定区域(如华北-北京1)对应的项目(cn-north-1)中设置相关权限,并且该权限仅对此项目生效;如果在“所有项目”中设置权限,则该权限在所有区域项目中都生效。访问ROMA Connect时,需要先切换至授权区域。 权限根据授权精细程度分为角色和策略。 角色:IAM最初提供的一种根据用户的工作职能定义权限的粗粒度授权机制。该机制以服务为粒度,提供有限的服务相关角色用于授权。由于华为云各服务之间存在业务依赖关系,因此给用户授予角色时,可能需要一并授予依赖的其他角色,才能正确完成业务。角色并不能满足用户对精细化授权的要求,无法完全达到企业对权限最小化的安全管控要求。 策略:IAM最新提供的一种细粒度授权的能力,可以精确到具体服务的操作、资源以及请求条件等。基于策略的授权是一种更加灵活的授权方式,能够满足企业对权限最小化的安全管控要求。例如:针对ROMA Connect服务,管理员能够控制IAM用户仅能对实例内的资源进行指定的管理操作。多数细粒度策略以API接口为粒度进行权限拆分,ROMA Connect支持的API授权项请参见细粒度策略支持的授权项 如表1所示,包括了ROMA Connect的所有系统权限。 表1 ROMA Connect系统权限 系统角色/策略名称 描述 类别 依赖关系 ROMA FullAccess ROMA Connect服务管理员权限,拥有该权限的用户可以操作所有ROMA Connect服务的功能。 系统策略 无 ROMA CommonOperations ROMA Connect服务普通用户权限(无实例创建、修改、删除的权限)。 系统策略 无 ROMA ReadOnlyAccess ROMA Connect服务的只读权限,拥有该权限的用户仅能查看ROMA Connect服务数据。 系统策略 无 ROMA Administrator ROMA Connect服务管理员权限,拥有该权限的用户可以操作所有ROMA Connect服务的功能。 系统角色 无 表2列出了ROMA Connect常用操作与系统权限的授权关系,您可以参照该表选择合适的系统权限。 表2 常用操作与系统权限的关系 操作 ROMA FullAccess ROMA CommonOperations ROMA ReadOnlyAccess ROMA Administrator 创建ROMA Connect实例 √ x x √ 查询ROMA Connect实例信息 √ √ √ √ 修改ROMA Connect实例 √ x x √ 删除ROMA Connect实例 √ x x √ 操作实例下资源 √ √ x √
  • ROMA业务流权限 如表6所示,包含了业务流的所有系统权限。 表6 ROMA业务流系统权限 系统策略/策略名称 描述 类别 依赖关系 ROMA BFS CommonOperations ROMA业务流服务的操作权限,如创建业务流等。 系统策略 无 ROMA BFS FullAccess ROMA业务流管理员权限。 系统策略 无 ROMA BFS ReadOnlyAccess ROMA业务流服务只读权限。 系统策略 无
  • ROMA业务流图权限 ROMA业务流对用户的业务流图实现了严格的权限管理,IAM用户只能查看和管理自己创建的业务流图,默认不能查看其他IAM用户创建的业务流图。ROMA业务流支持通过授权的方式,把自己的业务流图共享给同一账号下的其他IAM用户来查看和使用。 表7 ROMA业务流图权限说明 权限 业务流 read 可查看授权业务流图。 modify 可修改、保存授权业务流图。 delete 可删除授权业务流图。 operate 可启动、停止、重启、手工调度授权业务流图。 admin 业务流图管理员权限。
  • 操作步骤 登录ROMA Connect控制台,在“实例”页面单击实例上的“查看控制台”,进入实例控制台。 在左侧的导航栏选择“数据源管理”,单击页面右上角的“接入数据源”。 在接入数据源页面的“默认数据源”页签下,选择“MQS”类型的数据源,然后单击“下一步”。 在页面中配置数据源的连接信息。 表1 数据源连接信息 参数 配置说明 数据源名称 填写数据源的名称,根据规划自定义。建议您按照一定的命名规则填写数据源名称,方便您快速识别和查找。 编码格式 默认“utf-8”格式。 集成应用 选择数据源所归属的集成应用。 描述 填写数据源的描述信息。 连接地址 选择当前实例下MQS的内网连接地址。 是否SSL ROMA Connect与MQS的连接是否使用SSL认证加密。 当MQS开启了SSL且VPC内网明文访问未开启时,请选择“是”,其他情况下选择“否”。 SSL用户名/应用Key 仅当“是否SSL”选择“是”时需要配置。 SSL认证所使用的用户名,如果使用ROMA Connect的消息集成作为MQS数据源,则用户名为集成应用的Key。 SSL密码/应用Secret 仅当“是否SSL”选择“是”时需要配置。 SSL认证所使用的用户密码,如果使用ROMA Connect的消息集成作为MQS数据源,则密码为集成应用的Secret。 以开启SSL为例,数据源的接入配置示例如下图所示。 图1 MQS数据源配置示例 完成数据源接入配置后,单击“开始检测”,检测ROMA Connect与数据源之间是否能够连通。 若测试结果为“数据源连接成功!”,则继续下一步。 若测试结果为“数据源连接失败!”,则检查数据源状态和数据源连接参数配置,然后单击“重新检测”,直到连接成功为止。 单击“创建”,完成数据源的接入。
  • 功能简介 消息集成MQS是ROMA Connect的消息集成组件,使用统一的消息接入机制,提供跨网络访问的安全、标准化消息通道。使用ROMA Connect进行消息集成,有如下优势: 支持原生Kafka特性 兼容社区版Kafka的API,具备原生Kafka的所有消息处理特性。 支持安全的消息传输 独有的安全加固体系,提供业务操作云端审计,消息传输加密等有效安全措施。通过SASL认证,安全组等加强网络访问控制。 支持消息数据高可靠 支持消息持久化,多副本存储机制。副本间消息同步、异步复制,数据同步或异步落盘多种方式供您自由选择。
  • 使用流程 使用ROMA Connect进行消息集成的流程如下图所示。 图1 业务使用流程 已创建实例和集成应用。 创建Topic 创建用于存储消息的Topic,供消息生产方发布消息和供消息消费方订阅消息。 配置Topic授权(可选) 若ROMA Connect实例开启了MQS的SASL_SSL,客户端向Topic发布和订阅消息时,需要使用授权集成应用的Key和Secret进行安全认证。 连接Topic 在系统中集成开源的Kafka客户端,然后通过客户端提供的命令行向Topic生产和消费消息。
  • 脚本配置示例 { "response_headers": [ { "name": "header1", "value": "test", "action": "append" }, { "name": "header2", "value": "roma", "action": "override" } ] }
  • Oracle为CDB数据库时的配置 建议由数据库管理员进行CDC功能的配置操作。 开启日志归档。 在命令行工具中执行以下命令以sys用户连接到数据库。 在实际使用过程中,可以有多种方式连接数据库,此处以命令行方式为例进行说明。 sqlplus /nolog CONNECT sys/password@host:port AS SYSDBA; 其中: password为数据库sys用户的密码,可向数据库管理员获取。 host为数据库实例所在服务器的IP地址,请根据实际情况设置。 port为数据库实例所使用的端口,请根据实际情况设置。 执行以下命令,检查日志归档是否已开启。 archive log list; 若回显打印“Database log mode: No Archive Mode”,说明日志归档未开启,继续执行下一步。 若回显打印“Database log mode: Archive Mode”,说明日志归档已开启,直接跳到1.f。 执行以下命令配置归档日志参数。 alter system set db_recovery_file_dest_size = 100G; alter system set db_recovery_file_dest = '/opt/oracle/oradata/recovery_area' scope=spfile; 其中: 100G为日志文件存储空间的大小,请根据实际情况设置。 /opt/oracle/oradata/recovery_area为日志存储路径,请根据实际规划设置,但须确保路径提前创建。 执行以下命令开启日志归档。 开启日志归档功能需重启数据库,重启期间将导致业务中断,请谨慎操作。 归档日志会占用较多的磁盘空间,若磁盘空间满了会影响业务,请定期清理过期归档日志。 shutdown immediate; startup mount; alter database archivelog; alter database open; 执行以下命令,确认日志归档是否已成功开启。 archive log list; 当回显打印“Database log mode: Archive Mode”,说明日志归档已开启。 执行以下命令退出数据库连接。 exit; 安装LogMiner工具。 在命令行工具中执行以下命令以sys用户连接到数据库实例。 sqlplus sys/password@host:port/SID as sysdba 其中: password为数据库sys用户的密码,请向数据库管理员获取。 host为数据库实例所在服务器的IP地址,请根据实际情况设置。 port为数据库实例所使用的端口,请根据实际情况设置。 SID为要同步数据所在实例的实例名,请根据实际情况设置。 执行以下命令,检查LogMiner工具是否已安装。 desc DBMS_ LOG MNR desc DBMS_LOGMNR_D 若无打印信息返回,说明LogMiner工具未安装,继续执行下一步。 若有打印信息返回,说明LogMiner工具已安装,直接跳到3。 执行以下命令,安装LogMiner工具。 @$ORACLE_HOME/rdbms/admin/dbmslm.sql @$ORACLE_HOME/rdbms/admin/dbmslmd.sql 创建LogMiner执行用户并给用户赋予权限。 执行以下命令创建LogMiner用户角色并配置权限。 create role c##roma_logminer_privs container=all; grant create session, execute_catalog_role, select any transaction, flashback any table, select any table, lock any table, logmining, set container, select any dictionary to c##roma_logminer_privs container=all; grant select on SYSTEM.LOGMNR_COL$ to c##roma_logminer_privs container=all; grant select on SYSTEM.LOGMNR_OBJ$ to c##roma_logminer_privs container=all; grant select on SYSTEM.LOGMNR_USER$ to c##roma_logminer_privs container=all; grant select on SYSTEM.LOGMNR_UID$ to c##roma_logminer_privs container=all; grant create table to c##roma_logminer_privs container=all; grant select on V_$DATABASE to c##roma_logminer_privs container=all; grant select_catalog_role to c##roma_logminer_privs container=all; grant lock any table to c##roma_logminer_privs container=all; grant create sequence to c##roma_logminer_privs container=all; grant execute on DBMS_LOGMNR to c##roma_logminer_privs container=all; grant execute on DBMS_LOGMNR_D to c##roma_logminer_privs container=all; grant select on V_$LOG to c##roma_logminer_privs container=all; grant select on V_$LOG_HISTORY to c##roma_logminer_privs container=all; grant select on V_$LOGMNR_LOGS to c##roma_logminer_privs container=all; grant select on V_$LOGMNR_CONTENTS to c##roma_logminer_privs container=all; grant select on V_$LOGMNR_PA RAM ETERS to c##roma_logminer_privs container=all; grant select on V_$LOGFILE to c##roma_logminer_privs container=all; grant select on V_$ARCHIVED_LOG to c##roma_logminer_privs container=all; grant select on V_$ARCHIVE_DEST_STATUS to c##roma_logminer_privs container=all; grant select on V_$TRANSACTION to c##roma_logminer_privs container=all; 其中,c##roma_logminer_privs为LogMiner用户角色名,请根据实际规划设置。 执行以下命令创建LogMiner执行用户。 create user c##roma_logminer identified by password default tablespace users container=all; grant c##roma_logminer_privs to c##roma_logminer container=all; alter user c##roma_logminer quota unlimited on users container=all; 其中: c##roma_logminer为LogMiner用户名,请根据实际规划设置。 password为LogMiner用户密码,请根据实际规划设置。 c##roma_logminer_privs为LogMiner用户角色,在3.a中创建。 执行以下命令修改日志记录参数。 alter database add supplemental log data (all) columns; 执行以下命令退出数据库连接。 exit;
  • Oracle为非CDB数据库时的配置 建议由数据库管理员进行CDC功能的配置操作。 开启日志归档。 在命令行工具中执行以下命令以sys用户连接到数据库。 在实际使用过程中,可以有多种方式连接数据库,此处以命令行方式为例进行说明。 sqlplus /nolog CONNECT sys/password@host:port AS SYSDBA; 其中: password为数据库sys用户的密码,可向数据库管理员获取。 host为数据库实例所在服务器的IP地址,请根据实际情况设置。 port为数据库实例所使用的端口,请根据实际情况设置。 执行以下命令,检查日志归档是否已开启。 archive log list; 若回显打印“Database log mode: No Archive Mode”,说明日志归档未开启,继续执行下一步。 若回显打印“Database log mode: Archive Mode”,说明日志归档已开启,直接跳到1.f。 执行以下命令配置归档日志参数。 alter system set db_recovery_file_dest_size = 100G; alter system set db_recovery_file_dest = '/opt/oracle/oradata/recovery_area' scope=spfile; 其中: 100G为日志文件存储空间的大小,请根据实际情况设置。 /opt/oracle/oradata/recovery_area为日志存储路径,请根据实际规划设置,但须确保路径提前创建。 执行以下命令开启日志归档。 开启日志归档功能需重启数据库,重启期间将导致业务中断,请谨慎操作。 归档日志会占用较多的磁盘空间,若磁盘空间满了会影响业务,请定期清理过期归档日志。 shutdown immediate; startup mount; alter database archivelog; alter database open; 执行以下命令,确认日志归档是否已成功开启。 archive log list; 当回显打印“Database log mode: Archive Mode”,说明日志归档已开启。 执行以下命令退出数据库连接。 exit; 安装LogMiner工具。 在命令行工具中执行以下命令以sys用户连接到数据库实例。 sqlplus sys/password@host:port/SID as sysdba 其中: password为数据库sys用户的密码,请向数据库管理员获取。 host为数据库实例所在服务器的IP地址,请根据实际情况设置。 port为数据库实例所使用的端口,请根据实际情况设置。 SID为要同步数据所在实例的实例名,请根据实际情况设置。 执行以下命令,检查LogMiner工具是否已安装。 desc DBMS_LOGMNR desc DBMS_LOGMNR_D 若无打印信息返回,说明LogMiner工具未安装,继续执行下一步。 若有打印信息返回,说明LogMiner工具已安装,直接跳到3。 执行以下命令,安装LogMiner工具。 @$ORACLE_HOME/rdbms/admin/dbmslm.sql @$ORACLE_HOME/rdbms/admin/dbmslmd.sql 创建LogMiner执行用户并给用户赋予权限。 执行以下命令创建LogMiner用户角色并配置权限。 create role roma_logminer_privs; grant create session, execute_catalog_role, select any transaction, flashback any table, select any table, lock any table, select any dictionary to roma_logminer_privs; grant select on SYSTEM.LOGMNR_COL$ to roma_logminer_privs; grant select on SYSTEM.LOGMNR_OBJ$ to roma_logminer_privs; grant select on SYSTEM.LOGMNR_USER$ to roma_logminer_privs; grant select on SYSTEM.LOGMNR_UID$ to roma_logminer_privs; grant select on V_$DATABASE to roma_logminer_privs; grant create table to roma_logminer_privs; grant select_catalog_role to roma_logminer_privs; grant LOGMINING to roma_logminer_privs; grant lock any table to roma_logminer_privs; grant create sequence to roma_logminer_privs; grant execute on DBMS_LOGMNR to roma_logminer_privs; grant execute on DBMS_LOGMNR_D to roma_logminer_privs; grant select on V_$LOG to roma_logminer_privs; grant select on V_$LOG_HISTORY to roma_logminer_privs; grant select on V_$LOGMNR_LOGS to roma_logminer_privs; grant select on V_$LOGMNR_CONTENTS to roma_logminer_privs; grant select on V_$LOGMNR_PARAMETERS to roma_logminer_privs; grant select on V_$LOGFILE to roma_logminer_privs; grant select on V_$ARCHIVED_LOG to roma_logminer_privs; grant select on V_$ARCHIVE_DEST_STATUS to roma_logminer_privs; grant select on V_$TRANSACTION to roma_logminer_privs; 其中: roma_logminer_privs为LogMiner用户角色名,请根据实际规划设置。 “grant LOGMINING to roma_logminer_privs;”仅当Oracle为12c版本时,才需要添加,否则删除此行内容。 执行以下命令创建LogMiner执行用户。 create user roma_logminer identified by password default tablespace users; grant roma_logminer_privs to roma_logminer; alter user roma_logminer quota unlimited on users; 其中: roma_logminer为LogMiner用户名,请根据实际规划设置。 password为LogMiner用户密码,请根据实际规划设置。 roma_logminer_privs为LogMiner用户角色,在3.a中创建。 执行以下命令修改日志记录参数。 alter database add supplemental log data (all) columns; 执行以下命令退出数据库连接。 exit;
  • 概述 CDC(Change Data Capture),即数据变更抓取,通过为源端数据源开启CDC,ROMA Connect可实现数据源的实时数据同步以及数据表的物理删除同步。 ROMA Connect支持Oracle的XStream和LogMiner两种CDC模式,本章节主要介绍如何为Oracle数据库开启LogMiner模式的CDC功能。另外,根据Oracle数据库类型为CDB数据库还是非CDB数据库,CDC的配置有所不同。 CDC任务当前仅支持采集数据库物理表,不支持视图。
  • 操作步骤 登录ROMA Connect控制台,在“实例”页面单击实例上的“查看控制台”,进入实例控制台。 修改安全组配置,仅资产迁移场景需要,否则跳过此步。 在“实例信息”页面的“基本信息”页签下,单击安全组的名称。 在安全组配置页面中,根据准备工作中获取的源实例安全组信息和新实例的实际组网需求,修改安全组的规则配置。 ROMA Connect实例的安全组规则要求请参见表2。 修改实例路由信息,仅资产迁移场景需要,否则跳过此步。 在“实例信息”页面的“基本信息”页签下,更改路由信息。 修改实例配置参数,仅资产迁移场景需要,否则跳过此步。 在“实例信息”页面的“配置参数”页签下,根据准备工作中获取的源实例配置参数信息,修改配置参数。 添加数据字典配置。 在“实例信息”页面的“数据字典”页签下,根据准备工作中获取的源实例数据字典信息,添加数据字典配置。 具体创建字典的操作请参见创建数据字典。
  • 脚本配置示例 { "broker_list": [ "10.10.10.10:81", "10.10.10.11:82", "10.10.10.12:83" ], "topic": "Topic-test", "key": "aaa", "max_retry_count": 0, "retry_backoff": 1, "sasl_config": { "security_protocol": "PLAINTEXT", "sasl_mechanisms": "PLAIN", "sasl_username": "", "sasl_password": "", "ssl_ca_content": "" }, "meta_config": { "system": { "start_time": true, "request_id": true, "client_ip": true, "api_id": false, "user_name": false, "app_id": false, "request_time": true, "http_status": true, "server_protocol": false, "scheme": true, "request_method": true, "host": false, "api_uri_mode": false, "uri": false, "request_size": false, "response_size": false, "upstream_uri": false, "upstream_addr": true, "upstream_status": true, "upstream_connect_time": false, "upstream_header_time": false, "upstream_response_time": true, "http_x_forwarded_for": true, "http_user_agent": true, "error_type": true, "access_model1": false, "access_model2": false, "inner_time": false, "proxy_protocol_vni": false, "proxy_protocol_vpce_id": false, "proxy_protocol_addr": false, "body_bytes_sent": false, "api_name": false, "app_name": false, "provider_app_id": false, "all_upstream_response_time": false, "region_id": false, "auth_type": false, "response_source": false, "provider_app_name": false, "custom_data_log01": false, "custom_data_log02": false, "custom_data_log03": false, "custom_data_log04": false, "custom_data_log05": false, "custom_data_log06": false, "custom_data_log07": false, "custom_data_log08": false, "custom_data_log09": false, "custom_data_log10": false }, "call_data": { "log_request_header": true, "request_header_filter": "aaa", "log_request_query_string": true, "request_query_string_filter": "bbb", "log_request_body": true, "log_response_header": true, "response_header_filter": "ccc", "log_response_body": true, "custom_authorizer": { "frontend": [], "backend": [] } } } }
  • 约束与限制 同一个API在同一个环境中只能绑定一个相同类型的插件策略,已被API绑定的插件策略无法删除。 同一个ROMA Connect实例内最多可创建5个Kafka日志推送策略。 推送的日志信息中,响应数据暂不支持Transfer Encoding响应头参数。 消息中的请求体字段和响应体字段大小受到kafka_log_plugin_options中request_body_size和response_body_size的限制,当超过对应限制值时,对应字段会被截断。 推送的日志信息中,请求Body和响应Body信息是按UTF-8编码方式计算字节长度。
  • 操作步骤 在实例控制台的“实例信息”页面中,选择“基本信息”页签,可查看和编辑实例的基本信息。 表1 ROMA Connect基本信息 内容 内容说明 ROMA Connect实例信息 实例的基本信息,包括实例名称、实例ID、实例规格、描述、可用区、创建时间、企业项目。 您可以根据实际需要修改“实例名称”、“描述”等。 您可以单击“实例ID”右侧的“”复制实例ID信息。 虚拟私有云 实例所关联的VPC,您可以单击VPC名称跳转查看VPC的具体配置信息。 子网 实例所关联的子网,您可以单击子网名称跳转查看子网的具体配置信息。 安全组 实例所关联的安全组。您可以单击安全组名称跳转查看安全组的具体配置信息,也可以单击“更改”按钮,绑定新的安全组。 路由 配置私有网段。ROMA Connect实例创建完成后,默认能够与创建时指定的VPC子网网段进行互通,若有额外的私有网段需要与实例互通,可通过该配置项进行路由配置。 连接数 实例中占用连接数的各资源数量,具体的资源和连接数换算关系请参见连接数说明。 付费信息 实例的计费模式。 消息存储空间 实例的MQS消息存储空间信息,包括存储类型和存储空间使用率(百分比)。 MQS基本信息 实例的MQS的基本配置信息。 您可以根据实际需要修改“容量阈值策略”。 连接地址 实例的相关对接地址,包括: ROMA Connect连接地址 设备集成LINK连接地址 服务集成APIC连接地址 服务集成 APIC内网连接地址(自定义后端组件和网关组件) 数据集成 FDI内网出口地址 消息集成 MQS内网连接地址 消息集成 MQS公网连接地址(仅绑定弹性IP地址时展示) 消息集成 MQS Connector连接地址(仅联系技术支持开通白名单后展示) 您可以单击连接地址右侧的“”复制连接地址信息。 公网访问 实例绑定的弹性IP地址。 若实例未绑定弹性IP地址,你可以单击地址右侧的“”,绑定弹性IP地址。 若实例已绑定弹性IP地址,您可以单击地址右侧的“”复制地址信息。 若实例已绑定弹性IP地址,您可以单击地址右侧的“解绑”按钮,解绑弹性IP地址。 公网出口 数据集成FDI和服务集成APIC访问公网数据或服务的地址,实例创建时自动配置。 表2 ROMA Site协同版基本信息 内容 内容说明 ROMA Connect实例信息 实例的基本信息,包括实例名称、实例ID、实例规格、描述、可用区、创建时间。 您可以根据实际需要修改“实例名称”、“描述”等。 您可以单击“实例ID”右侧的“”复制实例ID信息。 付费信息 实例的计费模式。 连接数 实例中占用连接数的各资源数量,具体的资源和连接数换算关系请参见连接数说明。 MQS基本信息 实例的MQS的基本配置信息。您可以根据实际需要修改“容量阈值策略”。 连接地址 实例的相关对接地址,包括: ROMA Connect连接地址 设备集成LINK连接地址 服务集成APIC连接地址 服务集成 APIC内网连接地址(自定义后端组件和网关组件) 消息集成 MQS内网连接地址 消息集成 MQS公网连接地址(仅绑定弹性IP地址时展示) 您可以单击连接地址右侧的“”复制连接地址信息。
  • 脚本配置示例 { "auth_request": { "method": "GET", "protocol": "HTTPS", "url_domain": "10.10.10.10", "timeout": 5000, "path": "/auth", "vpc_channel_enabled": false, "vpc_channel_info": null }, "custom_forbid_limit": 100, "carry_body": { "enabled": true, "max_body_size": 1000 }, "auth_downgrade_enabled": true, "carry_path_enabled": true, "return_resp_body_enabled": false, "carry_resp_headers": [], "simple_auth_mode_enabled": true, "match_auth": null, "rule_enabled": false, "rule_type": "allow" }
  • 前提条件 每个API都要归属到某个集成应用下,在创建API前您需要有可用的集成应用,否则请提前创建集成应用。 每个API都要归属到某个API分组下,在创建API前您需要有可用的API分组,否则请提前创建API分组。 如果需要使用负载通道访问后端服务所在的服务器,请提前创建负载通道。 如果需要使用自定义认证方式进行API的安全认证,请提前创建前端自定义认证。 在创建API前,请确保ROMA Connect实例与您的后端服务所在网络互通。 若ROMA Connect实例与后端服务在相同VPC内时,可直接访问后端服务。 若ROMA Connect实例与后端服务在同一区域的不同VPC内时,可通过创建VPC对等连接,将两个VPC的网络打通,实现同一区域跨VPC访问后端服务。具体步骤请参考VPC对等连接说明。 若ROMA Connect实例与后端服务在不同区域的不同VPC内时,可通过创建云连接实例并加载需要互通的VPC,将两个VPC的网络打通,实现跨区域跨VPC访问后端服务。具体步骤请参考跨区域VPC互通。 若ROMA Connect实例与后端服务通过公网互通,请确保ROMA Connect实例已绑定弹性IP。 若ROMA Connect实例跨VPC内网访问后端服务时,需要完成实例到后端服务所在子网的路由配置。 使用FunctionGraph作为API的后端服务时,用户需要具备FunctionGraph Administrator角色权限。 在同一实例内,无法创建两个所属分组、请求方法、请求路径和匹配模式都一样的API。
  • 转换证书为PEM格式 格式类型 转换方式(通过OpenSSL工具进行转换) CER/CRT 将“cert.crt”证书文件直接重命名为“cert.pem”。 PFX 提取私钥命令,以“cert.pfx”转换为“key.pem”为例。 openssl pkcs12 -in cert.pfx -nocerts -out key.pem 提取证书命令,以“cert.pfx”转换为“cert.pem”为例。 openssl pkcs12 -in cert.pfx -nokeys -out cert.pem P7B 证书转换,以“cert.p7b”转换为“cert.cer”为例。 openssl pkcs7 -print_certs -in cert.p7b -out cert.cer 将“cert.cer”证书文件直接重命名为“cert.pem”。 DER 提取私钥命令,以“privatekey.der”转换为“privatekey.pem”为例。 openssl rsa -inform DER -outform PEM -in privatekey.der -out privatekey.pem 提取证书命令,以“cert.cer”转换为“cert.pem”为例。 openssl x509 -inform der -in cert.cer -out cert.pem
  • 操作步骤 建议由数据库管理员进行CDC功能的配置操作,以下配置以Linux环境为例进行说明。 开启Binlog。 使用命令行工具连接到MySQL数据库所在服务器,执行以下命令以root用户登录数据库。 mysql -uroot -ppassword 其中,password为数据库root用户的密码,可向数据库管理员获取。 执行以下命令,查询MySQL数据库是否开启了Binlog。 show variables like 'log_bin'; 若变量log_bin的值为“OFF”,则说明Binlog未开启,继续执行下一步。 若变量log_bin的值为“ON”,则说明Binlog已开启,继续执行以下SQL命令,检查相关参数的配置是否符合要求。 show variables like '%binlog_format%'; show variables like '%binlog_row_image%'; 变量binlog_format的值应该为“ROW”,变量binlog_row_image的值应该为“FULL”。如果满足要求,直接跳到2,否则继续执行下一步。 执行以下命令退出数据库。 exit; 执行以下命令编辑MySQL配置文件,然后按“i”进入输入模式。 vi /etc/my.cnf 在配置文件中增加如下配置,开启Binlog。 server-id = 123 log_bin = mysql-bin binlog_format = row binlog_row_image = full expire_logs_days = 10 gtid_mode = on enforce_gtid_consistency = on 其中: server-id的值应为大于1的整数,请根据实际规划设置,并且在创建数据集成任务时设置的“Server Id”值需要此处设置的值不同。 expire_logs_days为Binlog日志文件保留时间,超过保留时间的Binlog日志会被自动删除,应保留至少2天的日志文件。 “gtid_mode = on”和“enforce_gtid_consistency = on”仅当MySQL的版本大于等于5.6.5时才需要添加,否则删除这两行内容。 按“Esc”退出输入模式,然后输入“:wq”并回车,保存退出。 执行以下命令重启MySQL数据库。 service mysqld restart 以root用户登录数据库,执行以下命令,查询变量log_bin的值是否为“ON”,即是否已开启Binlog。 show variables like 'log_bin'; (可选):当创建MySQL CDC任务Schema映射时,MySQL数据库需要先开启配置项:binlog_rows_query_log_events =1;可在如上第 e 步骤中配置。 在数据库中执行以下命令创建ROMA Connect连接数据库的用户并配置权限。 CREATE USER 'roma'@'%' IDENTIFIED BY 'password'; GRANT SELECT, RELOAD, SHOW DATABASES, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'roma'@'%'; 其中: roma为ROMA Connect连接用户名,请根据实际规划设置。 password为ROMA Connect连接用户密码,请根据实际规划设置。 (可选)如果MySQL数据库版本为8.0,则需要执行以下命令,修改数据库连接用户的密码认证方式。 ALTER USER roma IDENTIFIED WITH mysql_native_password BY 'password'; 其中: roma为2中创建的数据库连接用户名。 password为数据库连接用户的密码。 执行以下命令退出数据库连接。 exit;
  • 脚本配置示例 { "scope": "basic", "default_interval": 60, "default_time_unit": "second", "api_limit": 100, "app_limit": 50, "user_limit": 50, "ip_limit": 20, "specials": [ { "type": "app", "policies": [ { "key": "e9230d70c749408eb3d1e838850cdd23", "limit": 10 } ] }, { "type": "user", "policies": [ { "key": "878f1b87f71c40a7a15db0998f358bb9", "limit": 10 } ] } ], "algorithm": "counter", "parameters": [ { "id": "3wuj354lpptv0toe0", "value": "reqPath", "type": "path", "name": "reqPath" }, { "id": "53h7e7j11u38l3ocp", "value": "method", "type": "method", "name": "method" }, { "id": "vv502bnb6g40td8u0", "value": "Host", "type": "header", "name": "Host" } ], "rules": [ { "match_regex": "[\"Host\",\"==\",\"www.abc.com\"]", "rule_name": "u8mb", "time_unit": "second", "interval": 2, "limit": 5 } ] }
  • 操作步骤 进入购买ROMA Connect实例页面。 在购买ROMA Connect实例页面中填写实例配置信息,系统会根据您选择的“实例规格”和“购买时长”自动计算费用,然后单击“立即购买”。 表1 实例配置参数 参数 配置说明 计费模式 选择实例的计费模式,可选择“包年/包月”。 区域 选择实例所在的区域,不同区域的实例之间内网互不相通,请选择您的业务就近区域购买实例,以减少网络时延,提高访问速度。 可用区 选择实例所在的可用区,不同可用区之间物理隔离,但内网互通。 如果您需要提高ROMA Connect运行的可靠性,建议您将实例创建在不同的可用区内。 如果您需要较低的网络时延,建议您将实例创建在相同的可用区内。 CPU架构 根据当前环境所支持的CPU架构,可选择项有所不同,选择“x86计算”或“鲲鹏计算”。 实例规格 选择实例的容量规格,请根据您的业务需要选择,实例创建后规格不可修改。 入门版:支持10个连接数,一般适用于5个以下系统的集成。入门版规格不支持设备集成能力。 基础版:支持25个连接数,一般适用于5~10个系统的集成。 专业版:支持80个连接数,一般适用于10~20个系统的集成。 企业版:支持200个连接数,一般适用于20~30个系统的集成。 铂金版:支持800个连接数,一般适用于30个以上系统的集成。 说明: 连接数和系统数仅用于ROMA Connect实例的规格选择参考,并非对实例内的资源数量(如集成任务数、API数和消息Topic数)的限制,与实例的资源配额之间并没有直接关联关系。 系统数说明:系统指的是用户的业务系统,系统数指ROMA Connect实例集成对接的业务系统数量。一个业务系统与ROMA Connect实例之间可以有多个连接。 连接数说明:业务系统和ROMA Connect的交互即为连接,使用不同功能所占用的连接数不同,具体的资源和连接数换算关系如下。 数据集成:2个运行状态的数据集成任务占用1个连接。 服务集成:10个托管类API(非自定义后端发布生成的API)占用1个连接;5个函数API或数据API占用1个连接。 消息集成:3个消息Topic占用1个连接。 设备集成:1000个设备占用1个连接。 例如,某企业的业务系统需要使用ROMA Connect进行业务集成:其中需要创建50个数据集成任务进行数据同步,但并行运行的数据集成任务最多为20个,则数据集成所需要使用的连接数为20/2=10;需要创建200个托管类API和20个数据API用于业务功能和数据的开放,则服务集成所需要使用的连接数为200/10+20/5=24;需要创建30个Topic用于系统间消息的连接,则消息集成需要使用的连接数为30/3=10;需要创建5000个设备,用于企业内资产的联网管理,则设备集成需要使用的连接数为5000/1000=5。因此,业务集成所需要使用的连接数总共为10(FDI)+24(APIC)+10(MQS)+5(LINK)=49,应选择“专业版”及以上规格的实例才能满足业务使用需要。 增强功能 仅当“实例规格”选择“基础版”及以上规格时可配置。 选择实例要包含的增强功能,可选择“应用业务模型(ABM)”。 企业项目 选择对应的企业项目,可将实例和企业项目关联。仅企业账号可见此配置项。 实例名称 填写实例的名称,根据规划自定义。 描述 填写实例的描述信息。 虚拟私有云 选择实例所关联的VPC和子网,VPC和子网须在准备资源中提前创建。 安全组 选择实例所关联的安全组。安全组须在准备资源中提前创建。 公网访问 是否开启公网访问ROMA Connect,请根据您的业务需要选择。 弹性IP地址 仅当“公网访问”开启时需要配置。 选择实例所关联的弹性公网IP,弹性公网IP须在准备资源中提前申请。 引擎版本号 选择实例所使用的Kafka服务端版本号,当前支持1.1.0、2.7版本,根据实际情况选择。 消息集成(MQS)容量阈值策略 实例中MQS消息存储达到容量阈值时(存储空间的95%)的处理策略,请根据您的业务需要选择。 生产受限:拒绝消息生产请求,直到有消息到达老化时间被删除,腾出存储空间后(剩余存储空间大于5%),才能接收新的消息生产请求。此策略适用于消息消费处理较慢,或者对存量消息需要反复消费,不能提前删除的场景。 自动删除:自动删除最老的消息(消息总量的10%),腾出存储空间,以接收新的消息生产请求,消息生产业务不受影响。此策略适用于消息消费处理较快,不存在长时间未处理消息的场景。 数据加密 传输 SASL_SSL 选择是否开启消息传输的SASL认证和SSL加密,建议您开启SASL认证和SSL加密,提高数据传输的安全性。 数据加密传输 SASL_SSL一旦开启后将无法修改,请根据实际业务需要选择是否启用。 VPC内网明文访问 仅当“数据加密传输 SASL_SSL”开启时可配置。 选择VPC内部是否使用明文访问。 若开启了VPC内网明文访问,则VPC内无法使用SASL方式连接消息集成的Topic,即连接Topic时无需使用证书。 购买时长 实例的购买时长,最短1个月。 您可根据需要选择勾选自动续费,按月购买的自动续费周期为1个月,按年购买的自动续费周期为1年。 在规格确认界面勾选同意协议的选项,然后单击“去支付”,在支付页面付费成功后开始创建实例。 实例创建大概需要18-25分钟,请耐心等待。实例创建成功后,在控制台的“实例”页面可看到该实例的状态为“运行中”。 如果创建实例失败,可删除创建失败的实例,然后重新创建实例。如果重新创建仍然失败,请联系技术支持。
  • 定义API请求 定义API的请求信息。 表2 API请求配置 参数 配置说明 请求协议 选择API使用的请求协议,可选择“HTTP”、“HTTPS”和“HTTP&HTTPS”,传输重要或敏感数据时推荐使用HTTPS。 请求Path 填写API的请求路径,格式如:/getUserInfo/{userId}。请求路径中可包含Path参数,以{参数名}形式表示。 Path参数应匹配“/”之间的一整段,不支持匹配“/”之间的一部分,例如不支持/abc{userId}。若匹配模式为绝对匹配,则尾部的Path参数可以添加+号,例如/users/{p+},其中变量p匹配一或多段“/”之间的部分。 请求路径中包含Path参数时,必须配置对应的入参定义。 请求路径中的内容区分大小写。 匹配模式 选择API请求路径的匹配模式。 绝对匹配:API请求中的请求路径要与“请求Path”的配置一致。 前缀匹配:API请求中的请求路径要以“请求Path”的配置为前缀。例如,“请求Path”为“/test/AA”,使用前缀匹配时,通过/test/AA/BB和/test/AA/CC都可以访问API,但是通过/test/AACC无法访问。 说明: 使用前缀匹配时,匹配剩余的请求路径将透传到后端服务。例如,“请求Path”为“/test”,“后端请求Path”为“/test2”,使用前缀匹配时,通过/test/AA/CC访问API,后端服务收到的请求路径为/test2/AA/CC。 Method 选择API的请求方法。“ANY”表示该API支持任意请求方法。 支持CORS 是否支持跨域访问API。 浏览器出于安全性考虑,限制从页面脚本内发起的跨域请求,此时页面只能访问同源的资源。而CORS允许浏览器向跨域服务器发送XMLHttpRequest请求,从而实现跨域访问。跨域访问API请参见配置跨域访问API。 入参定义(可选) 根据实际需要定义API的请求参数。请求路径中包含请求参数时,必须配置对应的入参定义。 在“入参定义”下单击“添加入参定义”,添加API的请求参数。 参数名:请求参数的名称。参数位置为“PATH”时,参数名需要与“请求Path”中的参数名称一致。 参数位置:请求参数在API请求中的位置,可选择“PATH”、“HEADER”和“QUERY”。 类型:选择请求参数的数据类型,可选择“STRING”和“NUMBER”。 必填:在API请求中,请求参数是否必填。 透传:请求参数是否透传到后端服务。 默认值:仅当“必填”为“否”时可配置请求参数的默认值。 枚举:请求参数的枚举值,请求参数的值只能从枚举值中选择,多个枚举值间用英文逗号隔开。 最大长度/最大值:“类型”为“STRING”时,设置参数值的最大字符串长度,“类型”为“NUMBER”时,设置参数值的最大值。 最小长度/最小值:“类型”为“STRING”时,设置参数值的最小字符串长度,“类型”为“NUMBER”时,设置参数值的最小值。 最小长度/最小值和最大长度/最大值同时设置成0时,表示不做限制。 示例:请求参数值的填写示例。 描述:请求参数的描述信息。 说明: 参数名不能以x-apig- 、x-sdk-开头,不能是x-stage,不区分大小写。 参数位置为HEADER时,参数名不能是Authorization和X-Auth-Token,不区分大小写。 请求体内容描述 仅当“Method”选择“POST”、“PUT”、“PATCH”或“ANY”时可配置。 填写API请求中请求体的描述信息,用于帮助API调用者理解如何正确封装API请求。 完成后单击“下一步”,定义后端服务。
  • 前提条件 每个API都要归属到某个集成应用下,在创建API前您需要有可用的集成应用,否则请提前创建集成应用。 每个API都要归属到某个API分组下,在创建API前您需要有可用的API分组,否则请提前创建API分组。 如果需要使用负载通道访问后端服务所在的服务器,请提前创建负载通道。 如果需要使用自定义认证方式进行API的安全认证,请提前创建自定义认证。 在创建API前,请确保ROMA Connect实例与您的后端服务所在网络互通。 若ROMA Connect实例与后端服务在相同VPC内时,可直接访问后端服务。 若ROMA Connect实例与后端服务在同一区域的不同VPC内时,可通过创建VPC对等连接,将两个VPC的网络打通,实现同一区域跨VPC访问后端服务。具体步骤请参考VPC对等连接说明。 若ROMA Connect实例与后端服务在不同区域的不同VPC内时,可通过创建云连接实例并加载需要互通的VPC,将两个VPC的网络打通,实现跨区域跨VPC访问后端服务。具体步骤请参考跨区域VPC互通。 若ROMA Connect实例与后端服务通过公网互通,请确保ROMA Connect实例已绑定弹性IP。 若ROMA Connect实例跨VPC内网访问后端服务时,需要完成实例到后端服务所在子网的路由配置。 使用FunctionGraph作为API的后端服务时,用户需要具备FunctionGraph Administrator角色权限。
  • 参数说明 数据集成任务支持使用QuartZ Cron表达式配置定时任务的调度计划。 QuartZ Cron表达式由6个部分组成,每个部分使用空格隔开。表达式中的六个部分从左到右代表的含义如下: 秒 分 时 日 月 周 具体参数如表1所示。 表1 QuartZ Cron参数说明 名称 是否必填 可选数值 可选特殊符号 秒 否,该配置项暂不支持 固定为0。 - 分 是 数字0-59。 , - * / 时 是 数字0-23。 , - * / 日 是 每月中的一天,数字1-31。注意2月没有30日和31日,4月、6月、9月、11月没有31日。 , - * ? / L W 月 是 数字1-12,或字符串。数字与字符串的对应关系请参见表2。 假如您想在月参数中填写1月,数字“1”或字符串“JAN”都符合QuartZ Cron表达式的约定。 , - * / 周 是 数字1-7,或字符串。数字与字符串的对应关系请参见表3,QuartZ Cron表达式约定周六为每周的最后一天。 假如您想在周参数中填写周一,数字“2”或字符串“MON”都符合QuartZ Cron表达式的约定。 , - * ? / L # 表2 月参数的数字与字符串对应关系 数字 字符串 1 JAN 2 FEB 3 MAR 4 APR 5 MAY 6 JUN 7 JUL 8 AUG 9 SEP 10 OCT 11 NOV 12 DEC 表3 每周数字与字符串对应表 数字 字符串 含义 1 SUN 周日 2 MON 周一 3 TUE 周二 4 WED 周三 5 THU 周四 6 FRI 周五 7 SAT 周六
  • 配置示例 以下示例将帮助您更好地理解QuartZ Cron表达式的含义。简单示例展示了QuartZ Cron表达式的初级使用方法,常用示例则展示了QuartZ Cron表达式在实际场景中常见的使用方法,您只需根据实际需求对常用示例进行微调即可直接使用。 简单示例: 0 0/1 * * * ? //每隔一分钟执行一次 0 0 23 * * ? //每天23点执行一次 0 0 1 1 * ? //每月一号凌晨1点执行一次 0 0 23 L * ? //每月最后一天23点执行一次 0 33,55 * * * ? //在33分,55分执行一次 0 0 18 * * LW //每月最后一个工作日晚上六点执行一次
  • 注意事项 每一个参数都使用数字,但还可以出现如下特殊字符。 *:表示匹配该域的任意值。假如在“分”使用“*”,即表示每分钟都会触发事件。 ?:只能用在“日(每月中的一天)”和“周”两个参数中。它也匹配参数的任意值,但实际不会。因为“日(每月中的一天)”和“周”会相互影响。例如想在每月的20日触发调度,不管20日是星期几,则只能使用如下写法: 13 13 15 20 * ?,其中最后一位只能用“?”,而不能使用“*”,如果使用“*”表示不管星期几都会触发,实际上并不是这样。 -:表示范围。例如在“分”使用“5-20”,表示从5分到20分钟每分钟触发一次。 /:表示起始时间开始触发,然后每隔固定时间触发一次。例如在“分”使用“5/20”,则表示每小时的第5、25、45分钟分别触发定时任务。 ,:表示列表值。例如:在“分”使用“5,20”,则表示在每小时的第5分和20分触发一次定时任务。 L:表示最后,只能出现在“日(每月中的一天)”和“周”参数中。如果在“周”域使用“5L”表示在最后的一个星期四触发。 W:表示有效工作日(周一到周五),只能出现在“日(每月中的一天)”参数中,系统将在离指定日期的最近的有效工作日触发事件。例如:在 “日(每月中的一天)”使用“5W”,如果5日是星期六,则将在最近的工作日:星期五,即4日触发。如果5日是星期天,则在6日(周一)触发;如果5日在星期一到星期五中的一天,则就在5日触发。W的最近寻找不会跨过月份 。 LW:这两个字符可以连用,表示在某个月最后一个工作日,即最后一个星期五。 #:用于确定每个月第几个星期几,只能出现在“日(每月中的一天)”域。例如在4#2,表示某月的第二个星期三。 定时任务配置QuartZ Cron表达式时,还需要注意以下内容: QuartZ Cron表达式采用UTC+0时区,在配置QuartZ Cron表达式时,您需要把本地时间换算成在UTC+0时区的时间。例如,中国的时区是UTC+8,如果您计划在中国时区(例如每天20:00)执行任务,需要将计划执行时间减去8小时,设置的QuartZ Cron表达式应为012**?
  • 自定义数据源 返回页首 任务的“集成模式”为“定时”时,可以选择自定义数据源作为源端数据源。ROMA Connect通过标准RESTful API的方式与自定义数据源进行通信。 在创建任务页面中配置源端信息。 表32 源端自定义数据源信息 参数 配置说明 源端实例 选择当前正在使用的ROMA Connect实例。 源端集成应用 选择自定义数据源所属的集成应用,在接入数据源时已配置。 源端数据类型 选择具体自定义数据源类型。 数据源名称 选择接入数据源中已配置的自定义数据源。 是否需要分页 一次API请求可以返回多条数据,ROMA Connect向自定义数据源发送请求获取数据时,数据是否分页返回。 分页表示所有满足条件的数据,按照每页固定的记录数进行分页,ROMA Connect每次获取一页数据,并通过多次请求获取所有数据。 不分页则表示ROMA Connect通过一次API请求获取所有满足条件的数据。 起始页 仅当“是否需要分页”选择开启时需要配置。 填写分页页码起始页,指第一页从0或者从1开始计数,请根据API的原始定义填写。 单页大小 仅当“是否需要分页”选择开启时需要配置。 填写每页的最大数据记录数,请根据API的原始定义填写。 是否增量迁移 选择是否只集成指定时间段内的数据。 首次调度采集是采集时间戳初始值到当前调度时间之间的数据,后续每一次调度采集的数据为上次采集成功的时间到当前时间之间的数据。 时区 选择自定义数据源使用的时区,以便ROMA Connect识别数据的时间戳。 数据起始时间 仅当“是否增量迁移”选择开启时需要配置。 首次集成数据时,要集成数据的起始时间,即只集成该时间点之后的数据。 是否解析 获取到的源端数据是否由ROMA Connect做进一步的数据解析。 若选择是,则ROMA Connect根据配置的解析规则,对获取到的源端数据解析后再集成到目标端。 若选择否,则ROMA Connect会直接透传获取到的源端数据,并集成到目标端。 元数据 仅当“是否解析”选择“是”时需要配置。 指从源端获取到的JSON格式数据中,要集成到目标端的每一个底层key-value型数据元素。 别名:对元数据的自定义名称。 类型:元数据的数据类型,需要与响应消息中对应参数的数据类型一致。 解析路径:元数据的完整路径,具体请参见元数据解析路径配置说明。 除了以上参数外,不同自定义数据源会定义不同的读端参数,请按照连接器原始定义规范填写。您可以在ROMA Connect控制台的“资产管理”页面中找到自定义数据源所使用的连接器,查看连接器的“读端参数定义”信息。 元数据解析路径配置说明: JSON格式数据中不含数组 如以下JSON格式数据,元素a的完整路径定义为a,元素b的完整路径为a.b,元素c的完整路径为a.b.c,元素d的完整路径为a.b.d。元素c和d为底层数据元素,即需要通过ROMA Connect集成到目标端的数据。 此场景下,元素c的解析路径需要设置为a.b.c,元素d的解析路径需设置为a.b.d。 { "a": { "b": { "c": "xx", "d": "xx" } } } JSON格式数据中含数组 如以下JSON格式数据,元素a的完整路径定义为a,元素b的完整路径为a.b,元素c的完整路径为a.b[i].c,元素d的完整路径为a.b[i].d。元素c和d为底层数据元素,即需要通过ROMA Connect集成到目标端的数据。 此场景下,元素c的解析路径需要设置为a.b[i].c,元素d的解析路径需设置为a.b[i].d。 { "a": { "b": [{ "c": "xx", "d": "xx" }, { "c": "yy", "d": "yy" } ] } } 以上面JSON格式数据中不含数组的样例为例,源端为自定义数据源的配置示例如下图所示,其中key为连机器中定义的读端参数。 图21 自定义数据源配置示例 完成源端信息配置后,继续进行下一部分配置,配置目标端数据信息。
  • WebSocket 返回页首 任务的“集成模式”为“实时”时,可以选择WebSocket作为源端数据源。 在创建任务页面中配置源端信息。 表31 源端WebSocket信息 参数 配置说明 源端实例 选择当前正在使用的ROMA Connect实例。 源端集成应用 选择WebSocket数据源所属的集成应用,在接入数据源时已配置。 源端数据类型 选择“WebSocket”。 数据源名称 选择接入数据源中已配置的WebSocket数据源。 数据根字段 指从源端获取到的JSON格式数据中,元数据集上层公共字段的路径。“数据根字段”与元数据的“解析路径”组合,即为元数据的完整路径,具体请参见元数据路径配置说明。 是否启用心跳机制 ROMA Connect是否与WebSocket数据源之间启用心跳机制,确保连接的有效性。 心跳消息内容 仅当“是否启用心跳机制”选择“是”时需要配置。 ROMA Connect向WebSocket数据源发送的心跳包中携带的消息内容,自定义。 发送心跳间隔(分钟) 仅当“是否启用心跳机制”选择“是”时需要配置。 ROMA Connect向WebSocket数据源发送心跳包的时间间隔。 是否解析 获取到的源端数据是否由ROMA Connect做进一步的数据解析。 若选择是,则ROMA Connect根据配置的解析规则,对获取到的源端数据解析后再集成到目标端。 若选择否,则ROMA Connect会直接透传获取到的源端数据,并集成到目标端。 元数据 仅当“是否解析”选择“是”时需要配置。 指从源端获取到的JSON格式数据中,要集成到目标端的每一个底层key-value型数据元素。 别名:对元数据的自定义名称。 类型:元数据的数据类型,需要与源端数据中对应字段的数据类型一致。 解析路径:元数据的完整路径中,不包含数据根字段的路径部分,具体请参见元数据解析路径配置说明。 元数据解析路径配置说明: JSON格式数据中不含数组 如以下JSON格式数据,元素a的完整路径定义为a,元素b的完整路径为a.b,元素c的完整路径为a.b.c,元素d的完整路径为a.b.d。元素c和d为底层数据元素,即需要通过ROMA Connect集成到目标端的数据。 { "a": { "b": { "c": "xx", "d": "xx" } } } 此场景下,对于数据根字段和解析路径有三种配置方案: 数据根字段不设置 元素c的解析路径需要设置为a.b.c,元素d的解析路径需设置为a.b.d。 数据根字段设置为a 元数据的解析路径从元素a的下层路径开始。元素c的解析路径需要设置为b.c,元素d的解析路径需设置为b.d。 数据根字段设置为a.b 元数据的解析路径从元素b的下层路径开始。元素c的解析路径需要设置为c,元素d的解析路径需设置为d。 JSON格式数据中含数组 如以下JSON格式数据,元素a的完整路径定义为a,元素b的完整路径为a.b,元素c的完整路径为a.b[i].c,元素d的完整路径为a.b[i].d。元素c和d为底层数据元素,即需要通过ROMA Connect集成到目标端的数据。 { "a": { "b": [{ "c": "xx", "d": "xx" }, { "c": "yy", "d": "yy" } ] } } 此场景下,对于数据根字段和解析路径有三种配置方案: 数据根字段不设置 元素c的解析路径需要设置为a.b[i].c,元素d的解析路径需设置为a.b[i].d。 数据根字段设置为a 元数据的解析路径从元素a的下层路径开始。元素c的解析路径需要设置为b[i].c,元素d的解析路径需设置为b[i].d。 数据根字段设置为a.b 元数据的解析路径从元素b的下层路径开始。元素c的解析路径需要设置为[i].c,元素d的解析路径需设置为[i].d。 以上面JSON格式数据中不含数组的样例为例,源端为WebSocket的配置示例如下图所示。 图20 WebSocket配置示例 完成源端信息配置后,继续进行下一部分配置,配置目标端数据信息。
  • SQL Server 返回页首 任务的“集成模式”为“定时”时,可以选择SQL Server作为源端数据源。 在创建任务页面中配置源端信息。 表29 源端SQL Server信息 参数 配置说明 源端实例 选择当前正在使用的ROMA Connect实例。 源端集成应用 选择SQL Server数据源所属的集成应用,在接入数据源时已配置。 源端数据类型 选择“SQL Server”。 数据源名称 选择接入数据源中已配置的SQL Server数据源。 插入SQL 选择是否使用SQL语句来获取源端数据。 开启,表示ROMA Connect根据填写的SQL语句来获取源端数据。 不开启,表示ROMA Connect根据界面配置的条件来获取源端数据。 若选择开启,则还需要填写查询数据的SQL语句。填写的语句必须为select语句并包含where条件,不能使用insert、update、delete、drop等语句。单击“检测SQL”,可以检测语句的有效性。 例如,语句SELECT col01, col02 FROM table01 WHERE col02 IN('A', 'B', 'C') ORDER BY col01,表示从table01数据表中选取col01和col02这两列的数据,筛选列col02中值为A、B或C的数据行,并按照列col01的值进行顺序排列。 源端表 仅当“插入SQL”选择不开启时需要配置。 选择SQL Server数据源中要获取数据的数据表。选择数据表后,单击“选择表字段”,可以选择只需要集成的数据列字段。 按字段排序 仅当“插入SQL”选择不开启时需要配置。 要集成的数据是否按字段排序。若需要对集成的数据进行排序,则需要选择排序的参照字段,并选择“升序”或“降序”排序。 是否增量迁移 选择是否只集成指定时间段内的数据。 首次调度采集是采集时间戳初始值到当前调度时间之间的数据,后续每一次调度采集的数据是上次采集的最后一条数据的入库时间到当前调度时间之间的数据。 时区 仅当“是否增量迁移”选择开启时需要配置。 选择SQL Server数据源使用的时区,以便ROMA Connect识别数据的时间戳。 时间戳字段 仅当“是否增量迁移”选择开启且“插入SQL”不开启时需要配置。 选择数据表中DATE、TIME或TIMESTAMP类型的字段作为源端数据的时间戳,用来判断数据是否满足增量集成的条件。 时间戳初始值 仅当“是否增量迁移”选择开启时需要配置。 首次集成数据时,要集成数据的起始时间,即只集成该时间点之后的数据。 重置迁移时间初始值 该参数仅在编辑FDI任务时可配置。 选择是否开启重置迁移时间初始值。 开启:开启后,增量迁移时每次调度时开始的时间为时间戳初始值配置的时间。 关闭:关闭时,增量迁移时每次调度的开始时间为上一次调度的结束时间。 条件筛选 仅当“插入SQL”选择不开启时需要配置。 添加要集成数据的筛选条件,只把满足条件的源端数据集成到目标端。 例如,条件“and | col02 | equal | A”表示只集成列col02中,值为“A”的数据行。 扩展元数据 仅当“插入SQL”选择不开启时需要配置。 当数据库中某个字段的值为JSON格式,且需要采集该JSON格式值中的底层key-value型数据元素时需要配置。 字段名:选择源表中需要采集子元素的数据字段名称。 类型:JSON格式字段值中,要采集的数据元素的数据类型。 解析路径:数据元素在JSON格式值中的完整路径,具体请参见扩展元数据解析路径配置说明。 扩展元数据解析路径配置说明: JSON格式数据中不含数组 如以下JSON格式数据,元素a的完整路径定义为a,元素b的完整路径为a.b,元素c的完整路径为a.b.c,元素d的完整路径为a.b.d。元素c和d为底层数据元素,即需要通过ROMA Connect集成到目标端的数据。 此场景下,元素c的解析路径需要设置为a.b.c,元素d的解析路径需设置为a.b.d。 { "a": { "b": { "c": "xx", "d": "xx" } } } JSON格式数据中含数组 如以下JSON格式数据,元素a的完整路径定义为a,元素b的完整路径为a.b,元素c的完整路径为a.b[i].c,元素d的完整路径为a.b[i].d。元素c和d为底层数据元素,即需要通过ROMA Connect集成到目标端的数据。 此场景下,元素c的解析路径需要设置为a.b[i].c,元素d的解析路径需设置为a.b[i].d。 { "a": { "b": [{ "c": "xx", "d": "xx" }, { "c": "yy", "d": "yy" } ] } } 增量迁移不支持将源端数据表中的物理删除操作同步给目标端,建议在源端使用逻辑删除。 对于源端的数据变更,需要同步更新数据行的时间戳,ROMA Connect通过时间戳与任务执行时间点进行对比,识别需增量迁移的数据。 源端为SQL Server的配置与MySQL的类似,配置示例可参考MySQL配置示例。 完成源端信息配置后,继续进行下一部分配置,配置目标端数据信息。
共100000条