检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
logminer只能运行在CDB库中。 操作步骤 本小节以Oracle到MRS Hudi的实时同步为示例,介绍如何配置Migration实时集成作业。配置作业前请务必阅读使用前自检概览, 确认已做好所有准备工作。 参见新建实时集成作业创建一个实时集成作业并进入作业配置界面。 选择数据连接类型:源端选Oracle,目的端选Hudi。
云专线虚拟网关所配置的虚拟私有云和对应配置的子网。 查看方式: 登录云专线控制台,在左侧导航栏,选择“云专线 > 虚拟网关”,在列表中找到连通其他云所使用的虚拟网关,单击虚拟网关名称,查看关联的虚拟私有云和本端子网。 图2 查看虚拟网关 VPC:10.186.0.0/19 子网:10
支持的数据源 实时集成作业支持的数据源如表1所示。 表1 实时集成作业支持的数据源 数据源分类 源端数据源 对应的目的端数据源 相关文档 说明 关系型数据 MySQL Hadoop:MRS Hudi MySQL同步到MRS Hudi作业配置 MySQL数据库建议使用版本:5.6、5
查询APP服务使用TopN 功能介绍 查询APP服务使用TopN。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/service/statistic/apps-top-n 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是
关系建模:逻辑实体/物理表 FACT_LOGIC_TABLE: 事实表 limit 否 Integer 每页查询条数,即查询Y条数据。默认值50,取值范围[1,100]。 offset 否 Integer 查询起始坐标,即跳过X条数据,仅支持0或limit的整数倍,不满足则向下取整,默认值0。 请求参数
查询指定API应用调用TopN 功能介绍 查询指定API应用调用TopN。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/service/statistic/apis-top-n/{api_id} 表1 路径参数 参数 是否必选 参数类型 描述
查询API已授权的APP 功能介绍 查询API已授权的APP。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/service/authorize/apis/{api_id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id
Query参数 参数 是否必选 参数类型 描述 name 否 String 按名称或编码模糊查询。 create_by 否 String 按创建者查询。 owner 否 String 按负责人查询。 begin_time 否 String 时间过滤左边界,与end_time一起使用,
性能调优概述 实时处理集成作业各链路如果出现时延持续增长、反压持续处于高位或同步速率过慢(查看作业监控指标速率不符合实时集成作业提供的性能规格)等情况,需要考虑以下几点: 目的端写入过慢。 源端抽取过慢。 其他问题(请联系技术支持人员协助解决)。 因为目的端写入过慢会影响至源端,
跨Region通过云连接连通网络 在配置实时同步任务前,您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通,您可以根据数据库所在网络环境,选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在华为云,且与Migration资源组不同Reg
查询数据分类列表 功能介绍 查询数据分类列表。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/security/data-category 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID,获取方法请参见项目ID和账号ID。
approver_name 否 String 审核人姓名。 limit 否 Integer 每页查询条数,即查询Y条数据。默认值50,取值范围[1,100]。 offset 否 Integer 查询起始坐标,即跳过X条数据,仅支持0或limit的整数倍,不满足则向下取整,默认值0。 请求参数
同Region同租户直接连通网络 在配置实时同步任务前,您需要确保源端和目的端的数据库与运行实时同步任务的实时计算资源组之间网络连通,您可以根据数据库所在网络环境,选择合适的网络解决方案来实现网络连通。 本章节主要为您介绍数据库部署在华为云,且与Migration资源组同Region同租户场景下的网络打通方案。
SQLServer与DWS字段类型映射 SQLServer与Hudi字段类型映射 Oracle与MRS Hudi字段类型映射 父主题: 数据集成(实时作业)
查询当前空间下分配的队列资源 功能介绍 查询当前空间下分配的队列资源。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/security/permission/queue/assigned-source 表1 路径参数 参数 是否必选 参数类型
包含子分类。 limit 否 Integer 分页参数,每页限制数量,默认查询所有。 offset 否 Integer 分页参数,偏移量,默认查询所有。 order 否 String 排序方式。 query 否 String 查询参数。 search_name_and_description
作业运行信息,详见submissions参数说明。 total Integer 查询该作业总的历史记录数。 page_no Integer 查询作业记录时,分页数。 page_size Integer 分页查询,每页返回的记录数。默认值:10。 表5 Submission 参数 参数类型
String 是否查询当前用户的实例,默认为false,表示查询全部用户实例,为true时,表示查询当前用户的实例。 query_days 否 String 查询的天数,取值范围为:today、yesterday、before_yesterday、all,默认为today,表示查询今天的数据,支持查询近7天的数据。
Oracle到MRS Hudi参数调优 SQLServer到DWS参数调优 GaussDB集中式/分布式到DWS参数调优 父主题: 数据集成(实时作业)
查询规则组列表 功能介绍 查询规则组列表。 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/security/data-classification/rule/group 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是