已找到以下 115 条记录
AI智能搜索
产品选择
云数据迁移 CDM
没有找到结果,请重新输入
产品选择
云数据迁移 CDM
在搜索结果页开启AI智能搜索
开启
产品选择
没有找到结果,请重新输入
  • 配置HBase/CloudTable目的端参数 - 云数据迁移 CDM

    导入前清空数据 选择目的端表中数据处理方式。 是:任务启动前会清除目标表中数据。 否:导入前不清空目标表中数据,如果选“否”且表中有数据,则数据会追加到已有的表中。 是 自动创表 只有当源端为关系数据库时,才有该参数。表示写入表数据时,用户选择操作: 不自动创建:不自动建表。

  • 文件增量迁移 - 云数据迁移 CDM

    运行作业时可以导出全部新增文件,或者只导出特定目录/文件。 目前CDM支持以下文件增量迁移方式: 增量导出指定目录文件 适用场景:源端数据源为文件类型(OBS/HDFS/FTP/SFTP)。这种增量迁移方式,只追加写入文件,不会更新或删除已存在记录。 关键配置:文件/路径过滤器+定时执行作业。

  • 创建CDM与数据源之间连接 - 云数据迁移 CDM

    在连接管理界面找到需要修改连接: 删除连接:单击操作列“删除”删除该连接,或者勾选连接后单击列表上方“删除连接”来批量删除未被任何作业使用连接。 编辑连接:单击该连接名称,或者单击操作列“编辑”进入修改连接界面,修改连接时需要重新输入数据源登录密码。 测试连通性:单击操作列“测试连通性”,直接测试已保存连接的连通性。

  • 与其他云服务关系 - 云数据迁移 CDM

    Management,简称IAM)进行精细权限管理。IAM提供用户身份认证、权限分配、访问控制等功能,可以帮助您安全控制云资源访问。 虚拟私有云 CDM集群创建在虚拟私有云(Virtual Private Cloud,简称VPC)子网内,VPC通过逻辑方式进行网络隔离,为用户集群提供安全、隔离网络环境。

  • 创建MySQL连接器 - 云数据迁移 CDM

    在“驱动管理”页面中,选择以下方式上传MySQL驱动。 方式一:单击对应驱动名称右侧操作列“上传”,选择本地已下载驱动。 方式二:单击对应驱动名称右侧操作列“从sftp复制”,配置sftp连接器名称和驱动文件路径。 在“集群管理”界面,单击集群后“作业管理”,选择“连接管理

  • 身份认证与访问控制 - 云数据迁移 CDM

    Management,简称IAM)进行精细权限管理。该服务提供用户身份认证、权限分配、访问控制等功能,可以帮助您安全控制华为云资源访问。关于IAM详细介绍,请参见IAM产品介绍。 权限根据授权精细程度分为角色和策略。 角色:IAM最初提供一种根据用户工作职能定义权限粗粒度授权机制。该机制

  • Hudi目的端作业执行Spark SQL写入Hudi失败怎么办? - 云数据迁移 CDM

    表,或者表在metastore中存在,但是表目录不存在,根因是在表目录下没有.hoodie目录。可能删表时候只删了文件而没有drop table。 设置为主键或者预聚合键列有空值,写入hoodie会失败。 查看作业配置,查看表属性中hoodie.datasource.write

  • 正则表达式分隔半结构化文本 - 云数据迁移 CDM

    ”必须选择“CSV格式”。 图1 正则表达式参数 在迁移CSV格式文件时,CDM支持使用正则表达式分隔字段,并按照解析后结果写入目的端。正则表达式语法请参考对应相关资料,这里举例下面几种日志文件正则表达式写法: Log4J日志 Log4J审计日志 Tomcat日志 Django日志

  • 如何查询数据连接创建人? - 云数据迁移 CDM

    进入云审计服务CTS主界面,事件来源选择“CDM”,资源类型选择“link”,就可以看到所有关于CDM连接管理操作,更多详情请参见支持云审计关键操作。 通过华为云开发工具调用API(API Explorer)方式查看连接,详情请参见查询连接。 父主题: 功能类

  • 迁移原理 - 云数据迁移 CDM

    用户无法从VPC访问本地数据库或操作系统。 针对恶意用户威胁:CDM对每个用户,使用单独虚拟机来运行各自CDM实例,用户之间实例是完全隔离和安全。恶意用户无法访问其他用户实例。 针对数据暴露公网威胁:CDM抽取-写入模型下,即使CDM绑定了弹性IP,也不会开放端口

  • 正则表达式分隔半结构化文本 - 云数据迁移 CDM

    ”必须选择“CSV格式”。 图1 正则表达式参数 在迁移CSV格式文件时,CDM支持使用正则表达式分隔字段,并按照解析后结果写入目的端。正则表达式语法请参考对应相关资料,这里举例下面几种日志文件正则表达式写法: Log4J日志 Log4J审计日志 Tomcat日志 Django日志

  • 上传CDM连接驱动 - 云数据迁移 CDM

    进入CDM主界面,单击左侧导航上“集群管理”,选择CDM集群后“作业管理 > 连接管理 > 驱动管理”,进入驱动管理页面上传驱动。 图1 上传驱动 方式一:单击对应驱动名称右侧操作列“上传”,选择本地已下载驱动。 方式二:单击对应驱动名称右侧操作列“从sftp复制”,配置sftp连接器名称和驱动文件路径。

  • 字段映射界面无法显示所有列怎么处理? - 云数据迁移 CDM

    Table表字段偶尔显示不全,无法与目的端字段一一匹配,造成导入到目的端数据不完整。 原因分析 由于HBase/CloudTable无Schema,每条数据列数不固定,在字段映射界面CDM通过获取样值方式有较大概率无法获得所有列,此时作业执行完后会造成目的端数据不全。 这个问题,可以通过以下方法解决:

  • 时间宏变量使用解析 - 云数据迁移 CDM

    在创建表/文件迁移作业时,CDM支持在源端和目的端以下参数中配置时间宏变量: 源端源目录或文件 源端表名 “通配符”过滤类型中目录过滤器和文件过滤器 “时间过滤”中起始时间和终止时间 分区过滤条件和Where子句 目的端写入目录 目的端表名 支持通过宏定义变量表示符“${}”来完成时间类型宏定义,当前

  • 迁移文件时加解密 - 云数据迁移 CDM

    端作业配置”“高级属性”中,配置如下参数。 加密方式:选择“AES-256-GCM”。 数据加密密钥:这里密钥必须与加密时配置密钥一致,否则解密出来数据会错误,且系统不会提示异常。 初始化向量:这里初始化向量必须与加密时配置初始化向量一致,否则解密出来数据会错误,且系统不会提示异常。

  • 迁移文件时加解密 - 云数据迁移 CDM

    端作业配置”“高级属性”中,配置如下参数。 加密方式:选择“AES-256-GCM”。 数据加密密钥:这里密钥必须与加密时配置密钥一致,否则解密出来数据会错误,且系统不会提示异常。 初始化向量:这里初始化向量必须与加密时配置初始化向量一致,否则解密出来数据会错误,且系统不会提示异常。

  • 计费说明 - 云数据迁移 CDM

    如果当前绑定区域有1个或多个对应实例规格CDM集群,则扣费方式是先扣除已购买资源包内时长额度,超出部分以按需计费方式进行结算(资源包对应多个集群时,会出现每月订购周期内可使用时长不足情况)。 例如购买了1个月折扣套餐(745小时/月),按区域和实例规格匹配到两个CDM集群后,从当前开始1个月订购有

  • 如何查看审计日志 - 云数据迁移 CDM

    通过筛选来查询对应操作事件。 其中,CDM操作事件您可以在“事件来源”中筛选“CDM”进行查看。 图1 CDM操作事件 在需要查看事件左侧,单击事件名称左侧箭头,展开该记录详细信息。 在需要查看记录右侧,单击“查看事件”,弹窗中显示了该操作事件结构详细信息。 更多关于

  • 性能调优 - 云数据迁移 CDM

    优化外,您也可以通过如下方式优化作业迁移速度: 使用大规格CDM集群 不同规格CDM集群网卡带宽、集群最大抽取并发数等有所差异。如果您有较高迁移速度需求,或当前CDM集群CPU使用率、磁盘使用率、内存使用率等指标经常在较高区间运行,建议您选用大规格CDM集群规格进行数据迁移。

  • 创建CDM自定义策略 - 云数据迁移 CDM

    作用。用户被授予策略中,一个授权项作用如果同时存在Allow和Deny,则遵循Deny优先原则。 如果您给用户授予CDM FullAccess系统策略,但不希望用户拥有CDM FullAccess中定义删除CDM集群权限,您可以创建一条拒绝删除CDM集群自定义策略,然后同时将CDM