检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备工作 在使用大数据校验功能前，请务必先完成以下必要的准备工作。 创建项目 通过创建独立的项目，可以将不同的操作场景进行区分和隔离，从而实现更好的组织管理和资源分配。创建方法请参考项目管理。 准备迁移工具Edge 在启用大数据校验功能前，需要先在源端环境中安装用于配合大数据校验的迁
准备工作 在使用大数据校验功能前，请务必先完成以下必要的准备工作。 创建大数据迁移项目 通过创建独立的项目，可以将不同的操作场景进行区分和隔离，从而实现更好的组织管理和资源分配。创建方法请参考项目管理。 准备MgC Agent（原Edge） 在启用大数据校验功能前，需要先在源端环境中安装用于配合大数据校验的MgC
您可以参考方法一或方法二，在目的端主机进行处理。 方法一： 登录目的端主机，在开始菜单打开“运行”输入框。 输入“diskmgmt.msc”，按“Enter”，进入磁盘管理页面。 在磁盘管理页面，可以看到数据盘处于“脱机”状态。 图1 脱机 使用鼠标右键单击“脱机”的数据盘，会出现联机的菜单，单击联机即可恢复正常。
在源端内网环境中或在可以访问到源端数据库的网络环境中安装MgC Agent并与迁移中心连接。 在资源采集页面，单击数据库资源类型，进入数据库资源列表。 在数据库资源列表中，通过平台类型过滤出采集到的所有AWS数据库资源，在支持深度采集的数据库类型的迁移中心Agent绑定列，单击“绑定”，弹出绑定迁移中心Agent窗口。
在源端内网环境中或在可以访问到源端数据库的网络环境中安装Edge工具并与迁移中心连接。 在资源采集页面的资源列表，单击数据库资源的资源数量，进入资源列表页面的数据库页签。 在数据库资源列表中，通过平台类型过滤出采集到的所有AWS数据库资源，在支持深度采集的数据库类型的采集设备列，单击“绑定”，弹出绑定采集设备窗口。
在左侧导航栏选择“实施>大数据数据迁移”，进入大数据数据迁移页面。在页面左上角的当前项目下拉列表中选择在完成准备工作时所创建的迁移项目。 单击页面右上角的“连接管理”按钮，进入连接管理页面。 单击页面右上角的“创建目的端连接”按钮，右侧弹出新增连接窗口。 连接类型选择“数据湖探索 （DLI）”，单击“下一步”，进入详细配置页面。
拉列表中选择在完成准备工作时创建的大数据迁移项目。 在左侧导航栏选择“实施>大数据数据迁移”，进入大数据数据迁移页面。 单击页面右上角的“连接管理”按钮，进入连接管理页面。 单击页面右上角的“创建目的端连接”按钮，右侧弹出新增连接窗口。 连接类型选择“数据湖探索 （DLI）”，单击“下一步”，进入详细配置页面。
您可以输入用于区分表组的说明。 在表管理页面，选择库表清单页签，勾选要加入同一表组的数据表，单击列表上方的“表组管理 > 批量加入组”，在弹出的修改表组窗口中，选择要加入的表组，单击“确认”。 如果需要新增数据表，可以通过导入数据表的方式添加，方法请参考导入数据表并加入表组。 在大数据校验页面
创建执行机连接 执行机是获取数据的任务执行单元，需要分别与源端和目的端的执行机建立连接，然后执行数据统计，统计结果将用于数据校验。 以下大数据组件需要通过创建执行机连接来进行数据校验： Hive Metastore Delta Lake（有元数据） Delta Lake（无元数据） Hudi（有元数据）
Hudi（有元数据） Hudi（无元数据） 需要确保源端和目的端执行机都安装了大数据组件的命令行客户端。 源端和目的端执行机均需要创建连接。 操作步骤 登录迁移中心管理控制台。在左侧导航栏的项目下拉列表中选择创建的大数据迁移项目。 在左侧导航栏选择“实施>大数据校验”，进入大数据校验页面。
如何查看采集失败原因？ 如果任务状态为“失败”，单击操作列的“查看”，可以查看采集失败的数据源，将鼠标放到数据源的采集状态上，可以查看失败原因。采集失败的数据源，处理完失败原因后，需要删除后通过新增数据源重新采集。 父主题： 资源采集
将填写后的模板文件上传。 上传成功后，单击“确认”按钮，系统开始导入。在库表清单列表中可以查看导入的数据表。 导出数据表 支持将Delta Lake和Hudi有元数据的数据表导出为CSV格式。无元数据的数据表不支持导出。 在表管理页面，选择库表清单页签。 单击列表上方的“导出 >
将填写后的模板文件上传。 上传成功后，单击“确认”按钮，系统开始导入。在库表清单列表中可以查看导入的数据表。 导出数据表 支持将Delta Lake和Hudi有元数据的数据表导出为CSV格式。无元数据的数据表不支持导出。 在表管理页面，选择库表清单页签。 单击列表上方的“导出 >
在MgC Agent（原Edge）控制台的总览页面，单击页面右上角的“查看配置”按钮，右侧弹出连接配置窗口。 在华为云账号框中，单击“配置”按钮。 在弹出的配置华为云凭证窗口，输入目的端华为云账号的AK/SK，单击“确认”，完成添加。 修改华为云凭证 如果您需要替换保存的华为云凭证，可以将其删除后，重新添加。
源端的元数据同步至迁移中心。 创建N个Delta元数据连接，除了执行机IP和端口不同以外，其余参数配置需要与步骤1.中的第一个元数据连接保持一致。 “N”需要根据您现有的ECS资源和表的数量来确定。在ECS资源充足且表数量非常多的情况下，增加元数据连接的数量可以提高数据校验的效率。
客户端，进行sql操作，出现用同一个命令存在返回值不同的情况。 这是因为在进行大数据对数的求和计算时，由于分布式计算顺序的不确定性，可能会导致计算结果的不一致性。特别是处理接近或等于double类型最大值（1.7976931348623157E+308）的数据时，加上一个较小的数值（如2.0）可能会导致数
数据迁移失败，提示超过DLI网管流控上限 问题描述 进行大数据数据迁移失败，在数据湖探索的Spark作业查看报错信息为：The throttling thershold has been reached 问题分析 出现该问题，是因为您创建的资源数量已达到DLI服务流控限制阈值。 解决方法
数据湖DLI凭证输入目的端华为云账号的AK/SK。 创建OBS桶并上传jar包 在华为云OBS创建一个存储桶，并将数据迁移过程中所依赖的 Java 文件（jar包）上传至该OBS桶。创建OBS桶的方法请参考创建桶。上传文件的方法请参考上传对象。 数据迁移所依赖的jar包分别为：migration-dli-spark-1
认证凭据”，可以下载凭证文件中的krb5.conf和user.keytab文件。 在MgC Agent添加凭证时，填写的用户名要与此处下载的凭证对应。 在页面上方菜单栏选择“集群>Hive”，进入Hive概览页，单击右上角“更多>下载客户端”，弹出下载客户端窗口。 客户端类型选择“仅配置文件”，单击“确定”按钮。
常包含丰富的资源数据。 解析数据：MgC将返回的数据进行解析，提取关键信息，如节点数、虚拟机核数等。然后将这些关键信息保存到数据库中，为后续分析和迁移提供支持。 准备工作 华为账号准备 使用MgC之前，您需要拥有一个华为账号或一个可用于访问MgC的IAM用户，注册华为账号以及创建IAM用户的方法请参考准备工作。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
