检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据库开发支持服务 工作说明书 常见问题 计费说明 父主题: 优化与提升
part过多,merge压力变大,甚至出现异常影响数据插入; 数据的一致性问题:数据先在分布式表写入节点的主机落盘,然后数据被异步地发送到本地表所在主机进行存储,中间没有一致性的校验,如果分布式表写入数据的主机出现异常,会存在数据丢失风险; 对于数据写分布式表和数据写本地表相比,分布式表数据写入性能也会变慢,单
CDM迁移近一个月的数据 备HBase集群中约10TB数据,最近一个月新增的数据量约60TB,总共约70TB。H公司安装的云专线为20GE端口,支持CDM超大规格的集群(cdm.xlarge),综合考虑迁移时间、成本、性能等,这里使用2个CDM超大规格集群并行迁移。CDM集群规格如表1所示。
数据导入导出 本章节主要介绍使用ClickHouse客户端导入导出文件数据的基本语法和使用说明。 CSV格式数据导入导出 CSV格式数据导入。 非安全集群 cat csv_ssl | ./clickhouse client --host 192.168.x.x --port port
在Workflow中使用大数据能力(DLI/MRS) 功能介绍 该节点通过调用MRS服务,提供大数据集群计算能力。主要用于数据批量处理、模型训练等场景。 应用场景 需要使用MRS Spark组件进行大量数据的计算时,可以根据已有数据使用该节点进行训练计算。 使用案例 在华为云MR
静态脱敏:可以按照脱敏规则一次性完成大批量数据的变形转换处理,静态脱敏通常用在将生产环境中的敏感数据交付至开发、测试或者外发环境的情况使用,适用于开发测试、数据分享、数据研究等场景。您可以通过DSC控制台创建脱敏任务,快速实现对数据库和大数据的脱敏。 动态脱敏:DSC提供动态脱敏API,支持用户对外部申
C#:1.5.2及以上版本 2.7 Java:2.7.2及以上版本 Python:2.0.1及以上版本 Go:1.8.2及以上版本 C#:1.5.2及以上版本 客户端开发和配置建议: 请参见客户端使用建议和客户端参数配置建议。 父主题: 开发说明
查询Impala数据 功能简介 本小节介绍了如何使用Impala SQL对数据进行查询分析。从本节中可以掌握如下查询分析方法。 SELECT查询的常用特性,如JOIN等。 加载数据进指定分区。 如何使用Impala自带函数。 如何使用自定义函数进行查询分析,如何创建、定义自定义函数请见Impala样例程序指导。
数据管理 数据管理流程 新建数据连接 新建数据库 (可选)新建数据库模式 新建数据表 父主题: 数据开发
建议使用Hive/Spark进行数据批量加工,FilkSQL进行数据增量加工。 数据入库 建议使用CDL(增量实时同步)和Loader(批量同步)工具进行数据同步,也可选择HDFS外表(CK集群只支持X86平台)用户自己写调度程序进行数据导入。 父主题: ClickHouse数据库开发
EDS的核心模块,对每次交换的数据进行使用策略制定,用来对交换后的数据使用进行安全合规的控制。 数据连接器 EDS的核心模块,提供数据集成、计算和消费能力,通过连接器实现数据提供方和数据消费方之间数据的流通和可控使用。 数据传输 数据连接器中的传输模块,用来将数据从数据提供方传输到数据消费方,并提供通道加密的能力。
数据开发API(V1) 脚本开发API 资源管理API 作业开发API 连接管理API(待下线)
API请求发送示例。示例为一个在IntelliJ IDEA工具中开发的Maven工程,因此,您如果在本地环境使用,请先安装并配置以下环境(以Windows 10系统为例): 已获取MQS连接信息,具体请参见开发准备。 已安装开发工具和Java开发语言环境,具体请参见开发准备。 获取Demo。 在ROMA Connect实例控制台的“消息集成
批量数据导入 Broker Load Stream Load 父主题: 数据导入
采集元数据 创建元数据连接 创建并运行元数据同步任务 创建并运行数据湖元数据同步任务 查看元数据 父主题: 大数据血缘
数据开发创建数据连接,为什么选不到指定的周边资源? 可能原因 数据开发创建数据连接,选不到指定的周边资源,可能是由于不在同一个Region下。 解决方案 请确认当前DataArts Studio实例与周边资源在同一个Region且在同一个IAM项目下。如果账户开通企业项目,则还需在同一个企业项目下。
发布数据API 在数据后端创建后,您需要发布数据后端,生成数据API并发布到环境上,才可供其他用户调用。 前提条件 每个API都要归属到某个API分组下,在发布函数API前您需要有可用的API分组,否则请提前创建API分组。 如果需要使用自定义认证方式进行API的安全认证,请提前创建前端自定义认证。
通过数据集导入数据后,在开发代码中如何获取这些数据? 模型训练服务提供了SDK供开发人员直接获取数据集,具体使用方式如下所示: 导入模型训练服务SDK。 from naie.datasets import data_reference from naie.feature_processing
从MY迁移数据 下面示例演示如何通过CopyManager从MY向GaussDB进行数据迁移。 代码运行的前提条件:MY和GaussDB数据库分别创建migration_table表。MY数据库的migration_table表预先插入数据。 1 2 3 4 5 6
limits” 如何导出Redis实例数据? 使用Rump工具迁移数据,命令执行后无报错,但Redis容量无变化 是否支持控制台导出RDB格式的Redis备份文件? 缓存实例备份文件如何存放?备份文件的数量是否有限制? Redis在线数据迁移是迁移整个实例数据么? AOF文件在什么情况下会被重写