检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型等因素影响。推荐您在正式迁移前，可先用小数据量实测进行速度摸底。 环境信息 CDM集群为xlarge规格，2.9.1 200版本。 性能测试中，表数据规格为5000W行100列，HDFS二进制文件数据规格分别为3597W行100列、6667W行100列和10000W行100列。
使用大规格CDM集群 不同规格的CDM集群网卡带宽、集群最大抽取并发数等有所差异。如果您有较高的迁移速度需求，或当前CDM集群的CPU使用率、磁盘使用率、内存使用率等指标经常在较高区间运行，建议您选用大规格的CDM集群规格进行数据迁移。 使用多个CDM集群 包含但不限于以下情况时，建议您使用多个
信息，并修改集群的配置。 查看集群基本信息： 集群信息：集群版本、创建时间、项目ID、实例ID和集群ID等。 节点配置：集群规格、CPU和内存配置等信息。 网络信息：网络配置。 支持修改集群的以下配置： 消息通知：CDM的迁移作业（目前仅支持表/文件迁移的作业）失败时，或者EIP
当表的条数过多时，作业会划分较多的分片，从而占用过多的内存导致内存问题，请解决表的条数适当调整该值。 当scan.incremental.snapshot.backfill.skip为false时，实时处理集成作业会缓存单个分片的数据，此时分片越大，占用内存越多，引发内存溢出，在此场景下，可以考虑降低分片大小。
创建API时提示代理调用失败，怎么办？ 可能原因 数据连接中的CDM代理异常，例如内存占用过高等。 解决方案 短期内建议您在空余时间对CDM集群进行重启，长期措施需降低CDM集群的工作负载。 父主题： 数据服务
的水平。 数据治理评分卡使用评分卡形式，由数据治理组织和各业务IT部门共同针对各部门自身数据治理情况进行打分。评分卡是季度性打分，作为一个工具手段持续推动促进各部门的数据治理工作，改进数据质量，提升数据治理水平。 图1 数据治理评分卡 父主题： 数据治理度量评估体系
DataArts Studio实例中的CDM没有计费是什么原因？ 购买非免费版的DataArts Studio实例时，系统会赠送一个4核CPU、8G内存规格CDM集群，不会产生费用。 注意，DataArts Studio实例赠送的CDM集群，推荐作为DataArts Studio管理中心数
数据价值。 数据湖的本质，是由“数据存储架构+数据处理工具”组成的解决方案。 数据存储架构：要有足够的扩展性和可靠性，可以存储海量的任意类型的数据，包括结构化、半结构化和非结构化数据。 数据处理工具，则分为两大类： 第一类工具，聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。
DWS数据连接开启SSL时测试连接失败怎么办？ 可能原因 可能是由于DWS集群的三权分立功能导致的。 解决方案 请在DWS控制台，单击进入对应的DWS集群后，选择“安全设置”，然后关闭三权分立功能。 图1 关闭DWS集群三权分立功能 父主题： 管理中心
Studio数据集成模块中的CDM集群，执行自动实时监控、告警和通知操作。用户可以实时掌握集群运行中所产生的网络流入速率、网络流出速率、CPU使用率、内存使用率、磁盘利用率、失败作业率等信息。 关于DataArts Studio支持的监控指标，以及如何创建监控告警规则等内容，请参见查看监控指标。
通过API工具调用APP认证方式的API APP认证方式的API接口可以分别绑定不同的应用，安全级别最高。如果您需要API工具调用APP认证方式的API，则需要先通过JavaScript SDK包中的demo.html手动生成认证信息，再使用API工具调用。 本章节以Postma
本章节以Postman工具为例，为您介绍如何使用API工具调用无认证方式的API，主要包含如下几步： 获取API信息：准备API关键信息，用于API调用。 调用API：通过Postman工具调用API。 前提条件 已完成无认证方式的API或API工作流的发布，在服务目录中可以查看已发布的API。 本
通过API工具调用IAM认证方式的API IAM认证方式的API调用前，需要调用IAM服务的获取用户Token接口获取Token，然后通过Token进行安全认证。 本章节以Postman工具为例，为您介绍如何使用API工具调用IAM认证方式的API，主要包含如下几步： 获取API
数据质量监控简介 数据质量监控DQC（Data Quality Control）模块是对数据库里的数据质量进行质量管理的工具。您可从完整性、有效性、及时性、一致性、准确性、唯一性六个维度进行单列、跨列、跨行、跨源和跨表的分析。数据质量支持对离线数据的监控，当离线数据发生变化时，数
CPU核数+Executor个数*Executor CPU核数 内存数=driver内存+(Executor个数*Executor内存） Executor内存 代表每个Executor的内存。通常建议Executor CPU核数：Executor内存=1：4。 GB输入值必须在0到16之间，MB输入值必须在0到16
CPU使用率 该指标用于统计测量对象的CPU使用率。 单位：%。 0%～100% CDM集群实例 1分钟 mem_usage 内存使用率 该指标用于统计测量对象的内存使用率。 单位：%。 0%～100% CDM集群实例 1分钟 pg_pending_job 排队作业数 该指标用于统计该
批写最大数据量：根据表数据大小和作业内存使用，适当调整，数据范围1-10000000。 定时批写时间间隔：数据定时入库的间隔时间，时间1-1000， 单位为秒。 高级配置：通过设置以下参数配置数据写入的高级属性。 sink.buffer-flush.max-size：根据作业配置内存和数据大小设置批写最大内存，单位:Mb。
批写最大数据量：根据表数据大小和作业内存使用，适当调整，数据范围1-10000000。 定时批写时间间隔：数据定时入库的间隔时间，时间1-1000， 单位为秒。 高级配置：通过设置以下参数配置数据写入的高级属性。 sink.buffer-flush.max-size：根据作业配置内存和数据大小设置批写最大内存，单位:Mb。
批写最大数据量：根据表数据大小和作业内存使用，适当调整，数据范围1-10000000。 定时批写时间间隔：数据定时入库的间隔时间，时间1-1000， 单位为秒。 高级配置：通过设置以下参数配置数据写入的高级属性。 sink.buffer-flush.max-size：根据作业配置内存和数据大小设置批写最大内存，单位:Mb。
优化迁移性能 迁移作业原理 性能调优 参考：作业分片维度 参考：CDM性能实测数据 父主题： 数据集成
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
