检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
xxx.yaml 配置文件内容获取方法如下: 在需要采集的k8s集群服务器上,使用如下命令,将获取到的信息粘贴到一个自建的yaml文件里,再将yaml文件的绝对路径填写到此处。 cat ~/.kube/config 须知: 一个k8s集群只需要获取一个配置信息。 父主题: 采集器参数配置说明
> API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 分别创建源端和目的端MRS ClickHouse统计任务并执行,方法请参考创建统计任务并执行校验。需要注意任务配置中的表组,选择步骤20.创建的表组。 任务类型请选择大数据组件中的“ClickHouse”。 统计方式仅支持“全量校验”。
> API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 在MgC控制台,分别创建源端和目的端HBase统计任务并执行,方法请参考创建统计任务并执行校验。需要注意任务配置中的表组,选择步骤步骤20.创建的表组。 任务类型请选择大数据组件中的“HBase”。 统计方式按实
API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 分别创建源端阿里云EMR ClickHouse和目的端MRS ClickHouse统计任务并执行,方法请参考创建统计任务并执行校验。需要注意任务配置中的表组,选择步骤20.创建的表组。 任务类型请选择大数据组件中的“ClickHouse”。
API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 在MgC控制台,分别创建源端和目的端 MRS Doris统计任务并执行,方法请参考创建统计任务并执行校验。需要注意任务配置中的表组,选择步骤步骤20.创建的表组。 任务类型请选择大数据组件中的“Doris”。 统计方式
输入需要校验的数据(即目的端数据)所在区域的代码。例如:ap-southeast-1。可以参考终端节点获取不同区域的区域代码信息。 项目ID 输入需要校验的数据所在的项目ID。获取方法请参考获取项目的名称和ID。 队列名称 输入需要进行校验的DLI队列名称。队列类型必须是SQL队列。 采集资源使用信息
FILE_SIZE_OVER_MAX_SIZE 分片超过最大值 10000。 每个分片最大支持1GB,单个对象超过1TB无法进行迁移。 FILE_PATH_TOO_LONG OBS文件路径超过最大值 1024。 OBS最大路径只支持1024位,超过最大值无法迁移。 父主题: 存储迁移
对于空文件夹,覆盖策略与文件相同。 CRC64对比覆盖 迁移前,对于源端和目的端存在的同名对象,对比源端和目的端对象元数据中的CRC64值,相同则跳过,不同则覆盖。如果源端与目的端对象元数据中不存在CRC64值,则默认使用大小/最后修改时间对比覆盖策略执行。 说明: 目前仅支持华为云、阿里云、腾讯云。 目
支持并行文件系统和标准桶两种类型。 对象存储终端节点 填写日志桶所在区域的终端节点(Endpiont),获取方法请参见地区和终端节点。单击“校验”,获取桶列表。 桶名称 在下拉列表中,选择需要作为日志桶的桶名。 自定义文件夹(可选) 指定日志文件和内容校验结果在日志桶内的存放文件夹,
API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 表2 HBase组件参数配置说明 参数 配置说明 所属源 选择目的端。 连接名称 默认创建名称为“HBase-4位随机数(字母和数字)”,也可以自定义名称。 迁移中心Agent 选择在源端环境中安装的MgC Agent(原Edge)。
机跨可用区迁移、迁移其他云平台存储数据至华为云。 操作流程 操作步骤 说明 准备工作 注册华为账号、开通华为云,并为账户充值。 获取账号迁移权限。 获取目的端账号的AK/SK。 创建项目 通过创建独立的项目,可以将不同的操作场景进行区分和隔离,从而实现更好的组织管理和资源分配。 下载并安装MgC
区域ID和项目ID可以在“我的凭证 > API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 创建阿里云云数据库 ClickHouse统计任务并执行,方法请参考创建统计任务并执行校验。需要注意任务配置中的表组,选择步骤20.创建的表组。 任务类型请选择大数据组件中的“阿里云云数据库 ClickHouse”。
FS_V3_MOUNT。 注意事项 迁移过程中,会调用源端云服务商的接口,所产生的费用都遵循源端云服务商的计费规则并由其向您收取。 操作流程 操作步骤 说明 准备工作 注册华为账号、开通华为云,并为账户充值。 获取账号迁移权限。 获取目的端账号的AK/SK。 在MgC控制台创建迁移项目
keytab五个文件。获取方式参见大数据-Hive Metastore凭证文件获取方法。 大数据-数据湖搜索(DLI) AK/SK 输入华为云账号的AK/SK。获取方法请参考如何获取AK/SK。 大数据-MaxCompute AK/SK 输入源端阿里云账号的AK/SK。获取方法请参考查看RAM用户的AccessKey信息。
API凭证”查看。 集群ID的获取方法请参考获取MRS集群ID。 表2 HBase连接参数配置说明 参数 配置说明 所属源 选择源端。 连接名称 默认创建名称为“HBase-4位随机数(字母和数字)”,也可以自定义名称。 迁移中心Agent 选择在源端环境中安装的MgC Agent(原Edge)。
机的密码。源端主机为华为云ECS时,请参考在控制台重置ECS密码。源端非华为云ECS主机,需要您自行获取重置密码的方法。 如果您不确定用户名是否正确,请联系源端主机的管理员以获取正确的用户名和密码。 确认用户名和密码无误后,更新在MgC Agent上添加的源端主机凭证信息,然后重新进行迁移准备度检查。
Opened Microsoft.PowerShell 如果配置失败,请参考 PowerShell 帮助文档中的 about_Remote_Troubleshooting 获取解决方案。 父主题: 常见问题
对于空文件夹,覆盖策略与文件相同。 CRC64对比覆盖 迁移前,对于源端和目的端存在的同名对象,对比源端和目的端对象元数据中的CRC64值,相同则跳过,不同则覆盖。如果源端与目的端对象元数据中不存在CRC64值,则默认使用大小/最后修改时间对比覆盖策略执行。 说明: 目前仅支持华为云、阿里云、腾讯云。 目
之前的执行结果会被后续的执行所覆盖。 前提条件 已创建统计任务并执行校验。 使用须知 当执行求和操作(如sum或allsum)时,如果结果值的位数超过了Double类型的有效位数,会导致精度丢失。并且在处理非常大的数值时,由于浮点数的精度限制,可能会导致实际存在的差异因为超出了D
之前的执行结果会被后续的执行所覆盖。 前提条件 已创建统计任务并执行校验。 使用须知 当执行求和操作(如sum或allsum)时,如果结果值的位数超过了Double类型的有效位数,会导致精度丢失。并且在处理非常大的数值时,由于浮点数的精度限制,可能会导致实际存在的差异因为超出了D