检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
vector %s 问题描述 进行大数据数据迁移时，部分表迁移失败，报错：no more field nodes for for field %s and vector %s 解决方法 基于源端表创建临时表，使用临时表进行数据迁移。 父主题： 大数据数据迁移
partition.mode strict nonstric 选择使用“自定义过滤”迁移策略迁移动态分区数据时，请添加该参数并配置参数值为nonstric。 否 父主题： 大数据数据迁移（MaxCompute迁移到DLI）
gC和访问MgC调研数据，MgC相关权限请参考权限管理。 加密保存凭证：所有用于数据采集的凭证都经过加密处理，以保护凭证的安全。线上采集的凭证仅在线上环境中保存。 数据租户级隔离存储：线上存储数据按租户隔离，每个租户的数据是独立的，不会被其他租户访问。 数据存储项透明：所有被采集
MySQL节点IP：输入MySQL数据库服务器的IP地址。 MySQL服务端口：输入MySQL数据库服务的端口号。 数据库名：输入存储Hive表元数据的数据库名称。 说明： 请确保填写的MySQL凭证、节点IP、服务端口和数据库名与Hive实际使用的MySQL数据库相匹配，否则会导致数据校验失败。 表5
血缘采集 血缘采集概述 导出作业 创建血缘采集任务 查看血缘关系 父主题： 大数据血缘
创建成功。 否 单击“确认”，在线调研任务创建完成，进入任务中心页面，系统自动开始资源采集。 当任务状态为“成功”时，返回资源采集页面，查看发现的源端资源列表和资源详情。 当任务状态为“失败”时，单击任务名称，查看采集失败的数据源，将鼠标放到失败数据源的采集状态上，可以查看失败原因。
部署迁移工具Edge 使用迁移中心的大数据血缘功能前，需要先在可以访问源端元数据来源的环境中部署迁移工具Edge。 迁移工具Edge不具备自动重启功能，严禁在任务执行期间重启Edge，以避免任务失败。 操作步骤 安装Edge的方法请参考下载并安装Edge。 安装成功后，将Edge
血缘采集概述 通过血缘采集，可以建立起数据元素之间的关系和依赖关系，从而形成一个清晰的数据血缘图。 目前支持血缘采集的文件类型以及采集须知，参见下表。 文件类型 采集须知 DataArts作业 需要提前导出DataArts作业到华为云OBS桶，并将桶的读写权限委托给迁移中心。 SQL作业
创建执行机连接 执行机是获取数据的任务执行单元，需要分别与源端和目的端的执行机建立连接，然后执行数据统计，统计结果将用于数据校验。 以下大数据组件需要通过创建执行机连接来进行数据校验： Hive Metastore Delta Lake（有元数据） Delta Lake（无元数据） Hudi（有元数据）
创建执行机连接 执行机是获取数据的任务执行单元，需要分别与源端和目的端的执行机建立连接，然后执行数据统计，统计结果将用于数据校验。 以下大数据组件需要通过创建执行机连接来进行数据校验： Hive Metastore Delta Lake（有元数据） Delta Lake（无元数据） Hudi（有元数据）
迁移中心为了确保采集数据的安全性，采集数据时只会读取源端数据，不会对源端数据进行修改。并提供了“导入本地文件”与“在线采集”两种采集方式。 数据传输 迁移中心为了确保数据传输安全，采用加密通道（HTTPS、SSH）进行数据传输。 凭证加密 在线采集时，采集凭证会加密存储在MgC服务端。用户也可以通过在源端部署MgC
Delta Lake数据校验任务存在以下约束与限制： 源端EMR环境的Spark版本为3.3.1时，支持Delta Lake（有元数据）和Delta Lake（无元数据）的数据校验。 源端EMR环境的Spark版本为2.4.8时，仅支持Delta Lake（有元数据）的数据校验。 Hbase校验不支持纯冷数据表。
创建源端云服务连接 对大数据云服务数据进行一致性校验时，需要分别与源端和目的端云服务建立连接，用于数据查询和计算。 目前支持创建源端连接的大数据云服务包括： MaxCompute 阿里云云数据库ClickHouse 操作步骤 登录迁移中心管理控制台。 在左侧导航栏选择“实施>大数据校验”，进入
COMPUTE statistics noscan的配置单元元存储表，和直接根据数据文件计算统计信息的基于文件的数据源表。 spark.sql.shuffle.partitions 200 为连接或聚合过滤数据时使用的默认分区数。 spark.sql.dynamicPartitionOverwrite
创建源端连接 创建源端云服务连接 创建源端组件连接 父主题： 大数据校验
创建源端连接 创建源端云服务连接 创建源端组件连接 父主题： 大数据校验
选择的OBS目录获取导出结果。 导出阿里云DataWorks作业 登录阿里云DataWorks控制台，单击左侧导航栏的“数据建模与开发 > 数据开发”，在下拉框中选择对应工作空间后单击“进入数据开发”。 单击左上方的图标，选择全部产品 > 更多 > 迁移助手，进入迁移助手首页。 参考创建和查看Da
创建血缘采集任务 前提条件 已完成元数据采集。 操作步骤 登录迁移中心管理控制台。 在左侧导航栏选择“调研>大数据血缘”，进入大数据血缘页面。在页面左上角的当前项目下拉列表中选择迁移项目。 在血缘采集区域，单击“创建任务”，弹出创建血缘采集任务窗口。 根据实际作业类型，选择文件类型并配置对应参数。
创建目的端连接 创建执行机连接 创建目的端云服务连接 创建目的端组件连接 父主题： 大数据校验
Delta Lake数据校验任务存在以下约束与限制： 源端EMR环境的Spark版本为3.3.1时，支持Delta Lake（有元数据）和Delta Lake（无元数据）的数据校验。 源端EMR环境的Spark版本为2.4.8时，仅支持Delta Lake（有元数据）的数据校验。 Hbase校验不支持纯冷数据表。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
