已找到以下 143 条记录
AI智能搜索
产品选择
云数据迁移 CDM
没有找到结果,请重新输入
产品选择
云数据迁移 CDM
在搜索结果页开启AI智能搜索
开启
产品选择
没有找到结果,请重新输入
  • 性能调优 - 云数据迁移 CDM

    数据迁移作业提交运行后,CDM会根据作业配置中“抽取并发数”参数,将每个作业拆分为多个Task,即作业分片。 不同源端数据源作业分片维度有所不同,因此某些作业可能出现未严格按作业“抽取并发数”参数分片情况。 CDM依次将Task提交给运行池运行。根据集群配置管理中“最大抽取并发数”参数,超出规格Task排队等待运行。

  • 产品优势 - 云数据迁移 CDM

    据再写入目的端,相对这样传统做法,CDM优势如表1所示。 表1 CDM优势 优势项 用户自行开发 CDM 易使用 自行准备服务器资源,安装配置必要软件并进行配置,等待时间长。 程序在读写两端会根据数据源类型,使用不同访问接口。一般是数据源提供对外接口,例如JDBC、原生

  • 云数据迁移 CDM - 云数据迁移 CDM

    Migration,简称CDM),是一种高效、易用批量数据迁移服务。 CDM围绕大数据迁移上云和智能数据湖解决方案,提供了简单易用迁移能力多种数据源到数据湖集成能力,降低了客户数据源迁移集成复杂性,有效提高您数据迁移集成效率。 产品首页 图说ECS 立即使用 立即使用

  • 创建CDM自定义策略 - 云数据迁移 CDM

    作用。用户被授予策略中,一个授权项作用如果同时存在AllowDeny,则遵循Deny优先原则。 如果您给用户授予CDM FullAccess系统策略,但不希望用户拥有CDM FullAccess中定义删除CDM集群权限,您可以创建一条拒绝删除CDM集群自定义策略,然后同时将CDM

  • 责任共担 - 云数据迁移 CDM

    华为云:负责云服务自身安全,提供安全云。华为云安全责任在于保障其所提供IaaS、PaaSSaaS类云服务自身安全,涵盖华为云数据中心物理环境设施运行其上基础服务、平台服务、应用服务等。这不仅包括华为云基础设施各项云服务技术安全功能性能本身,也包括运维运营安全,以及更广义的安全合规遵从。

  • 迁移数据到DLI时有数据丢失怎么处理? - 云数据迁移 CDM

    迁移数据到DLI时有数据丢失怎么处理? 问题描述 目的端是DLI迁移作业执行成功后,显示迁移数据条数DLI表中查询数量对不上,存在数据丢失。 原因分析 查看客户作业配置,客户并发数设置是3,如图所示。 查看DLI官网文档不建议同时对一张表并发插入数据。 解决方案 将作业抽取并发数改成1 ,重跑作业问题解决。

  • 配置OBS目的端参数 - 云数据迁移 CDM

    选择“是”后,迁移对象文件时会复制源文件Content-Type属性,主要用于静态网站迁移场景。 归档存储桶不支持设置Content-Type属性,所以如果开启了该参数,目的端选择写入桶时,必须选择非归档存储桶。 否 换行符 文件中换行符,默认自动识别“\n”、“\r”或“\r\

  • 配置FTP/SFTP源端参数 - 云数据迁移 CDM

    标识文件名 选择开启作业标识文件功能时,需要指定启动作业标识文件名。指定文件后,只有在源端路径下存在该文件情况下才会运行任务。该文件本身不会被迁移。 ok.txt 等待时间 选择开启作业标识文件功能时,如果源路径下不存在启动作业标识文件,作业挂机等待时长,当超时后任务会失败。

  • 字段转换器配置指导 - 云数据迁移 CDM

    isNumeric(value) 获取字符串最左端指定长度字符,例如获取“abc”最左端2位字符“ab”。 表达式:StringUtils.left(value,2) 获取字符串最右端指定长度字符,例如获取“abc”最右端2位字符“bc”。 表达式:StringUtils

  • 字段转换器配置指导 - 云数据迁移 CDM

    isNumeric(value) 获取字符串最左端指定长度字符,例如获取“abc”最左端2位字符“ab”。 表达式:StringUtils.left(value,2) 获取字符串最右端指定长度字符,例如获取“abc”最右端2位字符“bc”。 表达式:StringUtils

  • 配置OBS源端参数 - 云数据迁移 CDM

    压缩格式 选择对应压缩格式源文件: 无:表示传输所有格式文件。 GZIP:表示只传输GZIP格式文件。 ZIP:表示只传输ZIP格式文件。 TAR.GZ:表示只传输TAR.GZ格式文件。 无 压缩文件后缀 压缩格式非无时,显示该参数。 该参数需要解压缩文件后缀名。当一批文件

  • 时间宏变量使用解析 - 云数据迁移 CDM

    在创建表/文件迁移作业时,CDM支持在源端目的端以下参数中配置时间宏变量: 源端源目录或文件 源端表名 “通配符”过滤类型中目录过滤器和文件过滤器 “时间过滤”中起始时间终止时间 分区过滤条件Where子句 目的端写入目录 目的端表名 支持通过宏定义变量表示符“${}”来完成时间类型宏定义,

  • 时间宏变量使用解析 - 云数据迁移 CDM

    在创建表/文件迁移作业时,CDM支持在源端目的端以下参数中配置时间宏变量: 源端源目录或文件 源端表名 “通配符”过滤类型中目录过滤器和文件过滤器 “时间过滤”中起始时间终止时间 分区过滤条件Where子句 目的端写入目录 目的端表名 支持通过宏定义变量表示符“${}”来完成时间类型宏定义,

  • 记录数据迁移入库时间 - 云数据迁移 CDM

    单击“保存并运行”,回到作业管理表/文件迁移界面,在作业管理界面可查看作业执行进度结果。 作业执行成功后,单击作业操作列“历史记录”,可查看该作业历史执行记录、读取写入统计数据。 在历史记录界面单击“日志”,可查看作业日志信息。 前往目的端数据源查看数据迁移入库时间。 父主题:

  • 源端为对象存储 - 云数据迁移 CDM

    到文件原样复制。 当选择“BINARY_FILE”时,目的端也必须为文件系统。 fromJobConfig.lineSeparator 否 String 文件中换行符,默认自动识别"\\n"、"\\r"或"\\r\\n"。手动配置特殊字符,如空格回车需使用URL编码后值。或

  • 查看并修改CDM集群配置 - 云数据迁移 CDM

    会发送短信或邮件通知用户。该功能产生消息通知不会计入收费项。 用户隔离:控制其他用户是否能够查看、操作该集群中迁移作业连接。 开启该功能时,该集群中迁移作业、连接会被隔离,华为账号下其他IAM用户无法查看、操作该集群中迁移作业连接。 按组批量启动作业会运行组内所有

  • 什么是云数据迁移 - 云数据迁移 CDM

    简称CDM),是一种高效、易用数据集成服务。 CDM围绕大数据迁移上云和智能数据湖解决方案,提供了简单易用迁移能力多种数据源到数据湖集成能力,降低了客户数据源迁移集成复杂性,有效提高您数据迁移集成效率。 在数据治理中心(DataArts Studio)服务中,CDM作为其中“数据集

  • 返回结果 - 云数据迁移 CDM

    返回结果 请求发送以后,您会收到响应,包含:状态码、响应消息头响应消息体。 状态码 状态码是一组从1xx到5xx数字代码,状态码表示了请求响应状态,完整状态码列表请参见状态码。 对于“获取用户Token”接口,如果调用后返回状态码为“201”,则表示请求成功。 响应消息头

  • 源端为FTP/SFTP - 云数据迁移 CDM

    到文件原样复制。 当选择“BINARY_FILE”时,目的端也必须为文件系统。 fromJobConfig.lineSeparator 否 String 文件中换行符,默认自动识别"\\n"、"\\r"或"\\r\\n"。手动配置特殊字符,如空格回车需使用URL编码后值。或

  • 应用场景 - 云数据迁移 CDM

    本地数据是指存储在用户自建或者租用IDC中数据,或者第三方云环境中数据,包括关系型数据库、NoSQL数据库、OLAP数据库、文件系统等。 这个场景是用户希望利用云上计算存储资源,需要先将本地数据迁移上云。该场景下,需要保证本地网络与云上网络是连通。 图1 大数据迁移上云 数据批量入湖