检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
autoBroadcastJoinThreshold 209715200 配置执行连接时显示所有工作节点的表的最大字节大小。通过将此值设置为“-1”,可以禁用显示。 说明: 当前仅支持运行命令ANALYZE TABLE COMPUTE statistics noscan的配置单元元存储表,和直接根据数据文件计算统计信息的基于文件的数据源表。
分别创建源端Delta统计任务和目的端Delta统计任务并执行,方法请参考创建统计任务并执行校验。需要注意,在配置任务时,命令参数中的Spark-submit命令需要配置mgc.delta.metadata.client.ips参数,参数值为所有元数据连接的IP地址和端口,用英文逗号分隔。
复杂迁移(大数据迁移)项目:适用于需要进行大数据迁移和大数据一致性校验等复杂数据处理场景。 操作步骤 登录迁移中心管理控制台。 单击左侧导航栏的“配置管理”,进入配置管理页面。 选择“项目管理”页签,单击“创建项目”,右侧弹出创建新项目窗口。 图1 创建项目 在弹出的窗口中,仔细查看并了解项目类
“开始配置”按钮,进行工作流配置。 根据表1,配置工作流参数。 表1 主机迁移工作流配置参数说明 区域 参数 说明 工作流详情 名称 用户自定义 描述 用户自定义 应用程序 应用名称 选择待迁移资源所关联的应用。 迁移网络配置 网络类型 选择公网迁移,要求目的端服务器配置有“弹性
信息,发现存在部分信息缺失的情况。 问题分析 出现该问题,可能是在安装MgC Agent(原Edge)主机上的Linux采集脚本时,UNIX换行符格式不正确。正常情况下,Linux系统使用“LF”作为换行符,但安装的脚本中使用了Windows系统的“CR LF”。这种格式不匹配导致采集时脚本推送到源端主机上执行失败。
MgC支持的区域 MgC部署在“华南-广州”区域。 MgC为Region级服务,但提供了全局服务的能力。即在一个Region开通服务后,支持所有Region的迁移。 父主题: 产品咨询
MgC Agent(原Edge)设备离线原因 MgC控制台显示设备状态为离线,请排查以下原因: 请检查安装MgC Agent的主机是否仍然具备访问公网的能力。 请检查MgC Agent运行进程是否正常。 父主题: 常见问题
所有凭证非AK/SK认证方式 选择AK/SK认证方式的凭证。 MSE配置文件无效 请检查所用凭证和所选区域是否正确。 配置文件格式不正确 使用上传正确的文件格式。 获取Nacos的accessToken失败 请检查配置信息中填写的用户名和密码是否正确。 解析Nacos鉴权信息失败 请联系技术支持人员或提交工单。
元数据迁移和数据迁移需要使用不同的DLI队列连接,元数据迁移需要使用DLI SQL队列连接,数据迁移需要使用DLI 通用队列连接。配置错误的队列连接类型会导致迁移任务失败,因此在配置任务时,必须仔细检查并确保任务类型与队列类型相匹配。 元数据迁移与库的数量 在进行元数据迁移时,MgC会根据识别到
vpc:publicIps:update(更新弹性公网IP) vpc:publicIps:create(创建弹性公网IP) 配置主机购买模板 场景 委托对象 自定义策略名称 细粒度最小使用权限 配置主机购买模板 MgC MgC PurchaseTemplateAgencyPolicy iam:proj
vpc:publicIps:update(更新弹性公网IP) vpc:publicIps:create(创建弹性公网IP) 配置主机购买模板 场景 委托对象 自定义策略名称 细粒度最小使用权限 配置主机购买模板 MgC MgC PurchaseTemplateAgencyPolicy iam:proj
目下拉列表中选择迁移项目。 在血缘采集区域,单击“创建任务”,弹出创建血缘采集任务窗口。 根据实际作业类型,选择文件类型并配置对应参数。 文件类型 参数 配置说明 血缘模板 文件 将血缘模板下载到本地,并填写模板内的参数。其中,如下参数值为必填字段。 目标数据库(TargetDataset)
选择元数据管理,在大数据血缘分析页签,单击“创建血缘采集任务”,弹出创建血缘采集任务窗口。 图1 创建血缘采集任务 根据实际作业类型,选择文件类型并配置对应参数。 文件类型 参数 配置说明 血缘模板 文件 将血缘模板下载到本地,并填写模板内的参数。其中,如下参数值为必填字段。 目标数据库(TargetDataset)
要对源端开放22、8899、8900端口。 安装MgC Agent(原Edge)的主机 建议在源端内网环境中准备一台用于安装MgC Agent的Windows主机,并确保该Windows主机可以连接公网。 推荐规格不小于4U8G。 安装MgC Agent的Windows主机,powershell版本需要大于3
在左侧导航栏单击“迁移中心Agent”,进入迁移中心Agent页面。 在Linux版区域,单击“下载安装包”或“复制下载命令”,将MgC Agent安装包下载到Linux主机。 安装最新下载的MgC Agent,方法请参考安装Linux版本MgC Agent。 父主题: 如何升级MgC Agent(原Edge)至最新版本?
元数据迁移和数据迁移需要使用不同的DLI队列连接,元数据迁移需要使用DLI SQL队列连接,数据迁移需要使用DLI 通用队列连接。配置错误的队列连接类型会导致迁移任务失败,因此在配置任务时,必须仔细检查并确保任务类型与队列类型相匹配。 元数据迁移与库的数量 在进行元数据迁移时,MgC会根据识别到
移中心Agent页面。 在Windows版区域,单击“下载安装包”,将最新版本的MgC Agent安装程序下载到Windows主机。 双击最新版本的MgC Agent安装程序,开始安装,覆盖旧版本的MgC Agent。安装完成后,前往MgC控制台,在设备列表中确认设备的版本已更新为最新版本。
应。 在页面上方菜单栏选择“集群>Hive”,进入Hive概览页,单击右上角“更多>下载客户端”,弹出下载客户端窗口。 客户端类型选择“仅配置文件”,单击“确定”按钮。 将下载的文件包解压,在/Hive/config文件夹下可以获取core-site.xml、hivemetastore-site
未添加,请参考在MgC Agent添加凭证,添加对应类型的凭证,添加后会自动同步到MgC。 凭证同步失败:在MgC控制台左侧导航树,选择“配置管理 > 凭证管理”,单击MgC Agent名称,查看在MgC Agent添加的凭证是否同步到MgC。如果未同步,请前往MgC Agent
未添加,请参考在MgC Agent添加凭证,添加对应类型的凭证,添加后会自动同步到MgC。 凭证同步失败:在MgC控制台左侧导航树,选择“配置管理 > 凭证管理”,单击MgC Agent名称,查看在MgC Agent添加的凭证是否同步到MgC。如果未同步,请前往MgC Agent