检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
校验方式说明 全量校验：全量对比所有数据，适用于需要对比历史数据的场景。 日级增量校验：依靠元数据中的创建或更新时间，获取数据变化（增量）分区，再进行校验。支持单日或连续多日增量数据的统计，是最常用的校验方式。
大数据校验 大数据校验概述 准备工作 创建源端连接 创建表组并添加数据表 创建目的端连接 创建统计任务并执行校验 查看并导出校验结果 自定义参数说明
数据迁移失败，提示超过DLI网管流控上限 问题描述 进行大数据数据迁移失败，在数据湖探索的Spark作业查看报错信息为：The throttling thershold has been reached 问题分析 出现该问题，是因为您创建的资源数量已达到DLI服务流控限制阈值。
连接成功后，需要在Edge上分别添加源端“大数据-MaxCompute”凭证和目的端“大数据-数据湖搜索（DLI）”凭证，认证方式选择“AK/SK”。凭证的添加方法请参考添加资源凭证。 DLI侧的AK/SK获取方法请参考如何获取AK/SK。
父主题： 资源采集
凭证的添加方法请参考添加资源凭证中的大数据-执行机。 执行机IP 填写连接执行机的IP地址。 执行机连接端口 填写连接执行机的端口。 Spark客户端目录 填写Spark客户端的安装目录路径。
步骤六：创建大数据迁移任务 完成步骤一到步骤五的操作，并了解大数据校验任务的使用须知后。按照以下步骤创建大数据数据迁移任务。 创建源端MaxCompute连接。 创建目的端DLI连接。 创建元数据迁移任务或数据迁移任务并执行。
（可选）清理集群 当您完成数据迁移并且集群不再需要时，可以直接删除闲置的集群以释放资源。 在左侧导航栏选择“部署>迁移集群”，进入迁移集群页面。 在集群列表，选择需要清理的集群，单击操作列的“更多 > 删除”，弹出删除集群窗口。
连接迁移中心 将Edge与云端MgC控制台建立连接，协助MgC控制台进行资源采集和执行迁移工作流任务。 连接成功后，您可以在迁移中心控制台进行以下操作： 创建资源采集任务：通过公网发现源端多种类型资源，支持对主机、容器、对象存储和数据库等资源进行深度采集。
增加线程并发数，可以提高同步效率，但会占用更多源端连接和迁移工具（Edge)所安装主机的计算资源。 参数配置完成后，单击“确认”按钮，创建元数据同步任务完成。 单击“采集任务”，进入元数据采集页面。在任务管理页签，可以查看已创建的元数据同步任务列表以及参数配置信息。
规格评估 规格评估是根据源端资源规格、性能和应用场景以及特定的成本、可用性、性能、安全合规等需求，为您推荐最合适的华为云对应资源规格，通过规格评估确定迁移目的端。 当前支持规格评估的资源类型为：主机、数据库、对象存储、容器、中间件。
不填则代表同步全部数据库。 并发线程数 设置采集线程并发数。默认为3，1≤取值范围≤10。增加线程并发数，可以提高同步效率，但会占用更多源端连接和迁移工具（Edge)所安装主机的计算资源。 在元数据采集区域，单击“采集任务”，进入元数据采集页面。
MgC采用高效的数据采集算法，确保数据采集可以在较短的时间内完成，有效避免了长时间的资源占用，最大限度减少了对源端业务的影响。 父主题： 产品咨询
前缀迁移 仅支持云平台数据类型。 在“前缀路径”输入对象名称或者名称前缀，则只迁移与输入对象名称或名称前缀一致的对象。 须知： 输入对象前缀路径时，如果对象文件在源端桶的根目录下，则直接添加前缀；如果对象文件存在目录路径，则需要在对象前缀前添加对象文件所在的目录路径。
连接成功后，需要在Edge上分别添加源端MRS HBase凭证和目的端MRS HBase凭证，类型选择“大数据-HBase”，认证方式选择“用户名/密钥”。凭证的添加方法请参考添加资源凭证。
在工作流详情页面，可以查看该工作流的配置信息和资源迁移进度。还可以进行如下操作： 将鼠标移动到资源迁移进度条，在弹窗中可以查看该资源更多迁移信息。 当迁移步骤（进度条）到达需要手动确认的步骤时，您需要将鼠标移动到进度条上，并在弹出的窗口中单击步骤状态后的“确认”。
如何防止采集数据泄露？ MgC通过以下方式确保采集数据的安全： 数据加密传输：采用加密技术来保护数据在传输过程中的安全 本地加密存储凭证：Edge上的凭证信息都会经过加密处理后保存在本地，不会通过网络传输到云端。
MgC主机工作流资源与SMS迁移服务器列表之间的映射关系 MgC主机资源列表与SMS迁移服务器列表之间的映射关系，如下图所示。
公网采集权限要求 通过公网采集各云平台资源所需的权限如下： 阿里云资源采集 采集阿里云各类资源所需的权限参见下表。
准备工作 在使用大数据校验功能前，请务必先完成以下必要的准备工作。 创建项目 通过创建独立的项目，可以将不同的操作场景进行区分和隔离，从而实现更好的组织管理和资源分配。创建方法请参考项目管理。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
