过10000张表)时,如何使用MgC大数据校验功能进行一致性校验的方法。 操作步骤 参考创建元数据连接,创建第一个Delta元数据连接。 使用步骤1.创建的第一个元数据连接,创建元数据同步任务,将源端的元数据同步至迁移中心。 创建N个Delta元数据连接,除了执行机IP和端口不同以外,其余参数配置需要与步骤1
需要检查源端主机出方向是否有限制,并确保源端主机能够访问迁移过程中依赖的云服务,包括SMS、IAM、ECS、EVS、VPC、IMS等服务的域名。 数据流:数据流涉及从源端到目的端的数据传输。为确保数据流的畅通,需要检查目的端服务器的安全组配置,确保目的端安全组对源端IP开放了指定
选择“连接管理”,单击“创建连接”,右侧弹出新增连接窗口。 图3 创建连接 连接类型选择“MaxCompute”,单击“下一步”。 根据MaxCompute连接参数配置说明,配置连接参数后,单击“测试连接”按钮,测试通过代表连接成功。 表1 MaxCompute连接参数配置说明
选择“连接管理”,单击“创建连接”,右侧弹出新增连接窗口。 图3 创建连接 连接类型选择“MaxCompute”,单击“下一步”。 根据MaxCompute连接参数配置说明,配置连接参数后,单击“测试连接”按钮,测试通过代表连接成功。 表1 MaxCompute连接参数配置说明
在功能入口区域,单击“迁移准备”,进入迁移准备页面。 选择“连接管理”,单击“创建连接”,右侧弹出新增连接窗口。 图3 创建连接 连接类型选择“ClickHouse”,单击“下一步”。 根据ClickHouse组件参数配置说明,配置连接参数后,单击“测试连接”按钮,测试通过代表连接成功。 表1 ClickHouse组件参数配置说明
主机迁移工作流进行“启动迁移Agent”步骤时失败,报错信息为:System.OutOfMemoryException 问题分析 MgC Agent(原Edge)使用WinRM服务连接源端主机,进行脚本传输和执行。出现该问题是因为执行脚本的内存不足,导致迁移失败。 解决方法 检查并调整PowerShell内存配置。
页面。 选择“连接管理”,单击“创建连接”,右侧弹出新增连接窗口。 图3 创建连接 连接类型选择“Delta Lake(有元数据)”,单击“下一步”。 根据表1,配置连接参数后,单击“测试连接”按钮,测试通过代表连接成功。 表1 Delta Lake(有元数据)连接参数配置说明 参数
添加/修改华为云凭证 在使用迁移中心工作流进行迁移时,需要将华为云凭证推送给源端SMS-Agent,如果缺少华为云凭证,迁移工作流无法正常运行。 前提条件 已成功连接迁移中心。 添加华为云凭证 如果在连接迁移中心时,未选择保存华为云凭证,连接成功后,可以按照如下步骤添加华为云凭证。
在功能入口区域,单击“迁移准备”,进入迁移准备页面。 选择“连接管理”,单击“创建连接”,右侧弹出新增连接窗口。 图3 创建连接 连接类型选择“ClickHouse”,单击“下一步”。 根据ClickHouse组件参数配置说明,配置连接参数后,单击“测试连接”按钮,测试通过代表连接成功。 表1 ClickHouse组件参数配置说明
选择“连接管理”,单击“创建连接”,右侧弹出新增连接窗口。 图3 创建连接 连接类型选择“HBase”,单击“下一步”。 根据表1,配置连接参数后,单击“测试连接”按钮,测试通过代表连接成功。 表1 HBase连接参数配置说明 参数 配置说明 所属源 选择源端。 连接名称 默认
证,凭证名称为用户自定义,单击“确认”。 如果未连接迁移中心,添加的主机凭证可以用于本地主机深度采集。 如果连接了迁移中心,系统会自动将添加的凭证同步至迁移中心。 导入凭证 从迁移中心控制台的应用管理页面,导出主机资源列表或数据库资源列表,格式为CSV文件。 图2 导出资源列表
格式如下: username,ip,port,password username:该字段表示登录源端主机时所使用的用户名。为了确保脚本具有足够的权限执行修改操作,通常应使用具有管理员权限的用户名,如Administrator。 ip:该字段表示源端主机的内网IP地址。 port:
选择需要校验的表所在表组。 执行机连接 Hive、Delta Lake和Hudi组件配置参数。 创建源端统计任务时,选择源端执行机连接。 创建目的端统计任务时,选择目的端执行机连接。 DLI连接 数据湖探索(DLI)组件配置参数,创建目的端统计任务。选择创建的目的端DLI连接。 Doris连接 Doris组件配置参数。
oss:DescribeMetricData List 数据库 RDS rds:DescribeDBInstances Read rds:DescribeDBInstanceAttribute Read MongoDB rds:DescribeDBInstances Read rds:DescribeDBInstanceAttribute
的密码,单击“确定”,测试是否连接成功。 如果连接成功,可以输入任意命令来测试联调性。 如果连接失败,请参考WinRM远程连接失败故障排查,进行处理。 WinRM远程连接失败故障排查 如果远程连接测试失败,请参考方法进行故障排查: 检查端口连接:使用 telnet 命令测试源端服
运维。 支持区域: 全部 权限管理 创建用户并授权使用MgC 跨云迁移成本分析 通过输入源端云平台凭证,可以自动完成源端云厂商消费账单分析,根据源端产品规格及用量自动匹配华为云上的产品及用量,并对比源端云厂商使用费用和华为云使用费用,为您云间迁移提供参考。 支持区域: 全部 创建上云分析任务
开始和到期日期/时间 需要确保在迁移任务过程中,连接字符串不会失效。 单击“生成SAS和连接字符串”,即可显示连接字符串和SAS令牌、Blob服务SAS URL,单击连接字符串后的复制图标即可复制连接字符串。 可以使用连接字符串来访问 Azure 存储。 父主题: 存储迁移
当创建的集群选择的VPC与SFS服务使用的VPC不是同一个时,需要进行额外的网络配置,以确保SFS 1.0、SFS 3.0和集群之间的网络连通。 SFS 1.0网络打通 SFS 1.0通过创建对等连接来打通网络,方法请参考创建相同账户下的对等连接。 SFS 3.0网络打通 SFS 3
准备工作 在使用大数据校验功能前,请务必先完成以下必要的准备工作。 华为账号准备 使用MgC之前,您需要拥有一个华为账号或一个可用于访问MgC的IAM用户,并获取账号/IAM用户的访问密钥(AK/SK)。获取方法请参考准备工作。 在创建元数据连接时,如果要使用“采集资源使用信息”功能
obs:bucket:ListBucket:列举桶内对象 更多权限介绍请参见权限管理。 前提条件 已下载并安装Linxu版MgC Agent,并完成用户注册。 已连接迁移中心。 操作步骤 使用注册的用户名、密码登录MgC Agent(原Edge)控制台。 在左侧导航树选择“云边协同 > 大数据”,进入大数据页面。 在MgC
您即将访问非华为云网站,请注意账号财产安全