检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
DeltaLake（无元数据）迁移至MRS DeltaLake数据校验 本文主要介绍将自建DeltaLake环境上的数据迁移至华为云MRS DeltaLake之后，使用迁移中心 MgC进行数据一致性校验的步骤和方法。 DeltaLake不存在元数据，无法通过数据湖元数据同步方式进
如何防止采集数据泄露？ MgC通过以下方式确保采集数据的安全： 数据加密传输：采用加密技术来保护数据在传输过程中的安全 本地加密存储凭证：Edge上的凭证信息都会经过加密处理后保存在本地，不会通过网络传输到云端。 本地数据采集与存储：通过Edge线下采集的信息会被安全地保存在本地
给用户授权MgC权限流程 创建用户组并授权 系统策略：在IAM控制台创建用户组，并根据MgC系统策略说明以及实际的权限要求，为用户组授权MgC系统策略，授权范围方案选择“所有资源”。 表1 MgC系统策略说明 策略名称 描述 策略类别 策略内容 MgC FullAccess 迁移中心管理员权限，拥有操作MgC的所有权限。
Hive校验结果中的源端数据和目的端数据显示为“0”或“-1” 问题描述 对Hive进行大数据校验，校验任务执行成功，查看校验结果，发现部分字段的“源端数据”和“目的端数据”显示为“0”或“-1”。 问题分析 出现该问题可能是因为数值超出了Hive支持的数值范围。 在数据处理中，
大数据-Hive Metastore凭证文件获取方法 参考访问FusionInsight Manager登录Manager，进入系统页面。 在左侧导航栏，选择“权限>用户”，进入用户页面。 在用户列表，选择要在Edge添加凭证的用户，单击操作列“更多>下载认证凭据”，可以下载凭证文件中的krb5
数据源采集失败，如何重新采集？ 采集失败的数据源，处理完失败原因后，需要删除后通过新增数据源重新采集。 在任务列表页面，单击采集任务操作列的“查看”，进入任务详情页面。 单击采集项操作列的“新增数据源”，弹出新增数据源窗口。 选择区域和资源类型，单击“确认”按钮。新增数据源成功，系统开始对新增的数据源进行采集。
vpc:subnets:get（查询子网列表或详情） vpc:securityGroups:get（查询安全组列表或详情） vpc:vpcs:get（查询虚拟私有云详情） 迁移方案配置 场景 委托对象 自定义策略名称 细粒度最小使用权限 主机标准迁移模板 - 导入OBS桶里的目的端配置 MgC MgC ImportT
创建表组并添加数据表 将源端数据表加入表组中，为后续对数作业做准备。 每次最多支持导入10,000张表。 待导入的表必须属于同一个元数据来源。 导入数据表时，系统不会校验数据表加入的分组数量和对数标准。为保持对数的准确性，建议同一数据表加入的分组不超过3个，并避免加入对数标准相同的分组。
迁移其他云平台存储数据至华为云 适用场景 通过独立专享迁移集群以及配置迁移专线，简单、快捷实现对象存储、文件存储一站式上云，提升上云效率。本文介绍如何使用迁移中心MgC将其他云平台的对象存储或文件存储数据迁移到华为云。 当前支持以下区域（Region）： 华北-北京四 华北-乌兰察布一
Delta 数据量较大时，如何优化校验任务？ 本文介绍当源端Delta数据量较大（如超过10000张表）时，如何使用MgC大数据校验功能进行一致性校验的方法。 操作步骤 参考创建元数据连接，创建第一个Delta元数据连接。 使用步骤1.创建的第一个元数据连接，创建元数据同步任务，将源端的元数据同步至迁移中心。
数据迁移失败，提示超过DLI网管流控上限 问题描述 进行大数据数据迁移失败，在数据湖探索的Spark作业查看报错信息为：The throttling thershold has been reached 问题分析 出现该问题，是因为您创建的资源数量已达到DLI服务流控限制阈值。 解决方法
Windows主机迁移后数据盘缺失，如何解决？ 问题描述 Windows主机迁移完成后，登录目的端主机发现磁盘数量与源端主机不一致，有数据盘缺失，但在目的端控制台查看磁盘数量正常。 问题分析 出现该问题，可能是因为源端主机的磁盘策略为共享磁盘脱机或者离线模式，迁移后会导致数据盘处于脱机状态。
通过HTTP迁移MinIO存储数据到华为云OBS 本文介绍如何使用迁移中心（MgC）的存储迁移工作流，实现通过HTTP协议将MinIO存储的数据迁移至华为云对象存储服务（OBS）的方法。 支持的区域 当前支持以下区域（Region）： 华北-北京四 华北-乌兰察布一 华南-广州 华东-上海一
通过HTTP迁移Ceph存储数据到华为云OBS 本文介绍如何使用迁移中心（MgC）的存储迁移工作流，实现通过HTTP协议将Ceph存储的数据迁移至华为云对象存储服务（OBS）的方法。 支持的区域 当前支持以下区域（Region）： 华北-北京四 华北-乌兰察布一 华南-广州 华东-上海一
ClickHouse连接 ClickHouse、阿里云云数据库ClickHouse和CloudTable(Clickhouse)组件配置参数。 创建源端统计任务时，选择源端MRS ClickHouse连接或阿里云云数据库ClickHouse连接。 创建目的端统计任务时，选择目的端MRS
创建源端连接 创建源端连接是为了允许迁移工具Edge访问和读取源端阿里云 MaxCompute中存储的数据。 前提条件 已完成准备工作。 操作步骤 登录迁移中心控制台。 在左侧导航栏选择“实施>大数据数据迁移”，进入大数据数据迁移页面。在页面左上角的当前项目下拉列表中选择在完成准备工作时所创建的迁移项目。
迁移实施 元数据全量迁移 元数据增量感知 全量数据迁移 增量数据迁移 父主题： 大数据数据迁移
创建目的端连接 创建目的端连接是为了将源端数据写入到华为云DLI。 使用须知 元数据迁移：只需要配置一条连接到DLI SQL队列的连接。 数据迁移：需要配置两条连接，分别为连接到DLI SQL队列的连接和连接到DLI通用队列的连接。 前提条件 已完成准备工作。 操作步骤 登录迁移中心控制台。
自定义参数说明 在目的端配置中，支持配置的自定义参数及说明请参见表1和conf参数说明。 表1 支持的自定义参数说明 参数名称 取值范围 说明 是否必填 spark.dli.metaAccess.enable - 填写true。 是 spark.dli.job.agency.name
查看并导出执行结果 每运行一次迁移任务，即会生成一条任务实例。在任务实例的进度详情页面，可以查看并导出任务的执行结果。 导出的结果文件可以在生成的15天内下载，15天后自动删除。 前提条件 已创建迁移任务并运行。 操作步骤 在任务进度列表，单击进度统计列的“查看”，进入进度详情页面。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
