检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
大数据校验概述 迁移中心 MgC为多种大数据计算/存储引擎,如Hive、Hbase、Doris和MaxCompute等,提供了一致性校验方法。通过一致性校验,您可以更加放心地进行大数据迁移操作,确保数据的准确性和可靠性,从而避免了数据丢失或不一致的风险。 校验方式说明 全量校验:
不限于兼容性问题、固件兼容性、规格差异等。 目前仅支持主机资源进行迁移风险评估。 前提条件 已通过公网发现、内网发现或手动添加中的任意一种方法获取主机资源。 操作步骤 登录迁移中心控制台。 单击左侧导航栏的“设计>迁移方案设计”,进入迁移方案设计页面。在页面左上角的当前项目下拉列表中选择迁移项目。
20个)。 内网:使用内网迁移,适用于同一区域内的迁移场景。 专线:使用专线迁移,通过专线直接访问源端数据。搭建云专线的方法可参考云专线 DC。 - 高级设置 DNS配置(可选) 填写DNS服务器IP地址,用于追加/etc/resolv.conf文件中的nameserver参数值
Hudi(无元数据)连接 MaxCompute连接 阿里云云数据库ClickHouse连接 您还可以通过手动添加、导入模板等方式添加元数据库表信息,方法请参见查看元数据。 前提条件 已创建元数据连接。 操作步骤 登录迁移中心管理控制台。 在左侧导航栏选择“调研>大数据血缘”,进入大数据血缘
创建工具采集任务 Edge提供了多种类型的线下采集器,用于采集线下网络环境中的资源规格和配置信息。本节为您介绍创建线下工具采集任务的方法。 前提条件 已下载并安装Edge,并完成用户注册。 已安装待采集资源类型的采集器。 操作步骤 使用注册的用户名、密码登录Edge控制台,在左侧
采集器管理 Edge安装包中带有部分采集器安装包,在安装Edge时,这些采集器也会一并安装。本节为您介绍升级采集器和添加新采集器的方法。 使用场景 离线升级:用于更新已安装的采集器。 手动升级:用于新增采集器或修改采集器配置文件后的更新。 前提条件 已下载并安装Edge,并完成用户注册。
使用该功能前,请联系技术支持人员,将您添加到spark 3.3.1版本的白名单中。 配置DLI作业桶 需要购买一个OBS桶或并行文件系统并设置为DLI作业桶,该桶用于存储DLI作业运行过程中产生的临时数据。方法请参考配置DLI作业桶。 操作步骤 登录迁移中心控制台。 在左侧导航栏选择“实施>大数据数据迁移”,进入
权限管理 如果您需要对华为云上的迁移中心 MgC,给企业中的员工设置不同的访问权限,以达到不同员工之间的权限隔离,您可以使用统一身份认证服务(Identity and Access Management,简称IAM)进行精细的权限管理。该服务提供用户身份认证、权限分配、访问控制等功能,可以帮助您安全地控制资源的访问。
集群详细信息页面。 在流量控制区域,单击“添加”,下方新增一条规则记录。 在“开始时间”、“结束时间”和“限速”文本框中输入数值。 例如:设置开始时间08:00、结束时间12:00、限制最大流量20 MB/s,当迁移任务运行到(08:00~12:00)该时间段时,最大迁移速度将限制为20
择消息发送语言;选择发送消息的触发条件,支持同时勾选。 流量控制 设置迁移任务在指定时段的最大流量带宽。 不勾选,不进行流量控制。 勾选,进行流量控制。分别设置“开始时间”、“结束时间”和“限速”数值。 例如:设置开始时间08:00、结束时间12:00、限速为20 MB/s,当迁
图1 导入阿里云资源清单 仅支持上传UTF-8编码且为中文表头的CSV文件,单个文件大小不能超过15MB。将CSV文件编码转换为UTF-8的方法请参考转换CSV文件编码为UTF-8。 在资源类型下拉列表中,选择要导入的资源类型,并上传对应的资源清单。 资源类型 操作步骤 主机 单击
图1 导入阿里云资源清单 仅支持上传UTF-8编码且为中文表头的CSV文件,单个文件大小不能超过15MB。将CSV文件编码转换为UTF-8的方法请参考转换CSV文件编码为UTF-8。 在资源类型下拉列表中,选择要导入的资源类型,并上传对应的资源清单。 资源类型 操作步骤 主机 单击
行期间重启Edge,以避免任务失败。 操作步骤 安装Edge的方法请参考下载并安装Edge。 安装成功后,将Edge与迁移中心进行连接,方法请参考连接迁移中心。 Edge与迁移中心连接成功后,添加大数据相关凭证,方法请参考添加资源凭证。 父主题: 大数据血缘
使用MgC之前,您需要拥有一个华为账号或一个可用于访问MgC的IAM用户。获取方法请参考准备工作。 创建迁移项目 在MgC控制台为本次迁移创建独立的项目,方法请参见项目管理。 创建弹性文件系统 在目的端创建相应的弹性文件系统,用于迁移后的数据存储和管理,方法请参见创建弹性文件系统或创建高性能文件系统。。 步骤一:创建迁移集群
AM用户的方法请参考准备工作。 创建项目 在MgC控制台为本次采集创建独立的项目(建议创建简单项目),方法请参考项目管理。 Azure认证信息准备 提前获取AKS所在应用客户端的密码、购买AKS的订阅ID,对应应用的租户ID、客户端(应用)ID。这些认证信息的获取方法请参见如何获取添加Azure凭证所需的信息?
采集器离线:主机规格满足要求但采集器未运行。 解决方法 主机规格不足 请升级主机规格或选择满足规格要求的主机重新安装Edge并采集。 采集器离线 当前Edge所包含的采集器参见下表。本解决方法以主机采集器为例进行介绍,其它采集器处理方法相同。 采集器 采集资源 进程名 安装目录 rd
MB。在这种情况下,脚本可能因为内存不足而中断。解决方法如下: 登录华为云SMS管理控制台,在“迁移Agent”页面下载Windows Agent(Python2)版本的安装包到源端主机。 安装并运行Agent,输入华为云账户的AK、SK,以及SMS域名启动Agent。方法请参考安装Windows版的SMS-Agent。
C的IAM用户,注册华为账号以及创建IAM用户的方法请参考准备工作。 创建项目 在MgC控制台为本次采集创建独立的项目(建议创建简单项目),方法请参考项目管理。 AWS账号凭证准备 提前获取待采集资源所属AWS账号的AK/SK,方法请参考获取AWS访问密钥(Access keys)。
fi port=${port:-$DEFAULT_PORT} # Use default port 22 # Ensure port is numeric if ! [[ "$port" =~ ^[0-9]+$ ]]; then
fi port=${port:-$DEFAULT_PORT} # Use default port 22 # Ensure port is numeric if ! [[ "$port" =~ ^[0-9]+$ ]]; then