-
迁移准备 - 云数据迁移 CDM
准备数据 项目 数据项 说明 取值示例 DES盒子 挂载地址 DES盒子在客户的虚拟机挂载的地址。 //虚拟机IP/huawei 存储管理系统 DES盒子的存储管理系统,与管理IP相关。
-
创建MRS数据连接时测试连通性报下载配置文件失败错误怎么处理? - 云数据迁移 CDM
问题描述 创建MRS连接器报如下错误,在Manager检查用户权限是有的,检查网络也都是通的。 解决方案 登录Manager初始化用户后,重新建立数据连接即可。 父主题: 故障处理类
-
Kafka连接 - 云数据迁移 CDM
Kafka连接 介绍 通过Kafka连接器可以与开源的Kafka数据源建立连接,并按照用户指定配置将Kafka中的数据迁移到其它数据源。目前仅支持从Kafka导出数据。
-
管理驱动 - 云数据迁移 CDM
已参见配置FTP/SFTP连接创建SFTP连接并将对应的驱动上传至线下文件服务器(可选)。 如何获取驱动 不同类型的关系数据库,需要适配不同类型的驱动。注意,上传的驱动版本不必与待连接的数据库版本相匹配,直接参考表1获取建议版本的JDK8 .jar格式驱动即可。
-
创建CDM自定义策略 - 云数据迁移 CDM
*:get*", "ecs:*:list*", "vpc:*:get*", "vpc:*
-
配置DMS Kafka连接 - 云数据迁移 CDM
建议修改CDM集群对应的ECS主机(通过集群IP查找对应的ECS主机)中的“/etc/hosts”文件,为其添加Broker连接地址的自映射,以便客户端能够快速解析实例的Broker。
-
OBS数据迁移到DLI服务 - 云数据迁移 CDM
OBS服务器、端口:配置为OBS实际的地址信息。 访问标识(AK)、密钥(SK):登录OBS的AK、SK。 您可以通过如下方式获取访问密钥。 登录控制台,在用户名下拉列表中选择“我的凭证”。 进入“我的凭证”页面,选择“访问密钥 > 新增访问密钥”,如图4所示。
-
创建数据连接时报错“配置项[linkConfig.createBackendLinks]不存在”或创建作业时报错“配置项 [throttlingConfig.concurrentSubJobs] 不存在”怎么办? - 云数据迁移 CDM
需手动清理浏览器缓存,即可避免此类问题。 父主题: 故障处理类
-
OBS数据迁移到DLI服务 - 云数据迁移 CDM
OBS服务器、端口:配置为OBS实际的地址信息。 访问标识(AK)、密钥(SK):登录OBS的AK、SK。 您可以通过如下方式获取访问密钥。 登录控制台,在用户名下拉列表中选择“我的凭证”。 进入“我的凭证”页面,选择“访问密钥 > 新增访问密钥”,如图4所示。
-
MySQL数据迁移到MRS Hive分区表 - 云数据迁移 CDM
mysqllink 数据库服务器 MySQL数据库的IP地址或域名。 - 端口 MySQL数据库的端口。 3306 数据库名称 MySQL数据库的名称。 sqoop 用户名 拥有MySQL数据库的读、写和删除权限的用户。 admin 密码 用户的密码。
-
步骤1:创建集群 - 云数据迁移 CDM
cdm.large:8核CPU、16G内存的虚拟机,最大带宽/基准带宽为3/0.8 Gbps,集群作业并发数上限为16。
-
查看集群基本信息/修改集群配置 - 云数据迁移 CDM
图5 重启集群 重启CDM服务进程:只重启CDM服务的进程,不会重启集群虚拟机。 重启集群VM:业务进程会中断,并重启集群的虚拟机。 选择“重启集群VM”后单击“确定”。 父主题: 管理集群
-
MySQL数据迁移到MRS Hive分区表 - 云数据迁移 CDM
mysqllink 数据库服务器 MySQL数据库的IP地址或域名。 - 端口 MySQL数据库的端口。 3306 数据库名称 MySQL数据库的名称。 sqoop 用户名 拥有MySQL数据库的读、写和删除权限的用户。 admin 密码 用户的密码。
-
查询集群列表 - 云数据迁移 CDM
表10 ClusterLinks 参数 参数类型 描述 rel String 关系 href String 链接地址 表11 Resource 参数 参数类型 描述 resource_id String 资源id resource_type String 资源类型:server(服务器
-
上传存量数据 - 云数据迁移 CDM
端口:OBS服务器的端口,例如“443”。 OBS桶类型:根据实际情况下拉选择即可。 访问标识(AK)、密钥(SK):访问OBS数据库的AK、SK。可在管理控制台单击用户名,选择“我的凭证 > 访问密钥”后获取。 单击“保存”,系统回到连接管理界面。
-
查询集群实例信息 - 云数据迁移 CDM
格式为ISO8601:YYYY-MM-DDThh:mm:ssZ updated String 实例更新时间,格式为ISO8601:YYYY-MM-DDThh:mm:ssZ name String 实例名称 id String 实例ID flavor flavor object 节点的虚拟机规格
-
场景介绍 - 云数据迁移 CDM
在这之前,H公司采用其自建的大数据集群,并安排专人维护,每年固定购买电信联通双线专用带宽,在机房、电力、专网、服务器、运维方面进行高额投入,但其在面对客户不断变化的业务诉求时,因为人员投入不足,大数据集群能力不匹配,而无法聚焦业务创新,使得存量100T的数据只有4%的利用率。
-
新建连接 - 云数据迁移 CDM
FTP SFTP 连接FTP或SFTP服务器时,具体参数请参见配置FTP/SFTP连接。 HTTP 用于读取一个公网HTTP/HTTPS URL的文件,包括第三方对象存储的公共读取场景和网盘场景。 当前创建HTTP连接时,只需要配置连接名称,具体URL在创建作业时配置。
-
责任共担 - 云数据迁移 CDM
华为云租户的安全责任在于对使用的 IaaS、PaaS 和 SaaS 类云服务内部的安全以及对租户定制配置进行安全有效的管理,包括但不限于虚拟网络、虚拟主机和访客虚拟机的操作系统,虚拟防火墙、API 网关和高级安全服务,各项云服务,租户数据,以及身份账号和密钥管理等方面的安全配置。
-
创建集群 - 云数据迁移 CDM
表13 ClusterInstance 参数 参数类型 描述 id String 节点的虚拟机ID。 name String 节点的虚拟机名称。 type String 节点类型,只支持一种类型“cdm”。