检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在实时查询监控页面展示了当前运行在集群中的所有查询和会话的实时信息。 实时查询仅8.1.2及以上集群版本支持。 启动实时查询功能需要在“监控设置 > 监控采集”页面打开“实时查询监控”指标项,操作详情请参见监控采集。开启实时查询后可能会导致数据量过大,请谨慎操作。 前提条件 查询监控中用户查看数据前需要设置相关GUC
析。 表1 实时数仓与标准数仓的差异 数仓类型 标准数仓(存算一体1:8云盘规格) 实时数仓(存算一体1:4云盘规格) 适用场景 融合分析业务,一体化OLAP分析场景。主要应用于金融、政企、电商、能源等领域。 实时入库+分析混合业务,上游数据实时入库+数据入库后实时高效查询场景。
实时数仓函数 hstore_light_merge(rel_name text) 描述:该函数用于手动对HStore表进行轻量化清理操作,持有目标表的三级锁。 返回值类型:int 示例: 1 SELECT hstore_light_merge('reason_select');
实时TopSQL 系统提供了不同级别的资源监控实时视图用来查询实时TopSQL。资源监控实时视图记录了查询作业运行时的资源使用情况(包括内存、下盘、CPU时间等)以及性能告警信息。 实时视图具体的对外接口如下表所示: 表1 资源监控实时视图 视图级别 节点范围 查询视图 query级别/perf级别
数据脱敏 GaussDB(DWS)提供列级别的数据脱敏(Dynamic Data Masking)功能。针对某些敏感信息(如身份证号、手机号、银行卡号等),通过应用脱敏函数进行原始数据的变形改写,实现敏感隐私数据的可靠保护,从而增强产品在数据安全和隐私保护方面的能力。 了解更多请参见数据脱敏。
的OBS外表,将两个数据库关联在同一个数据目录下进行数据查询。 功能特性对比 表1 功能特性对比 功能模块 功能模块 存算一体 存算分离 总览 资源 支持 支持 告警 支持 支持 近期事件 支持 支持 集群监控指标(DMS) 支持(单机版不支持) 支持 数据 - 支持 支持 集群管理
实时数仓语法 CREATE TABLE INSERT DELETE UPDATE UPSERT MERGE INTO SELECT ALTER TABLE
实时入库 Kafka实时入库到GaussDB(DWS)
数据库监控 进入数据库监控页面 登录GaussDB(DWS) 管理控制台。 在“集群 > 专属集群”页面,找到需要查看监控的集群。 在指定集群所在行的“操作”列,单击“监控面板”。系统将显示数据库监控页面。 在左侧导航栏选择“监控 > 数据库监控”,进入数据库监控页面。 在数据库
Flink作业实时同步Kafka数据至(GaussDB)DWS集群 本实践演示通过数据湖探索服务 DLI Flink作业将分布式消息服务 Kafka的消费数据实时同步至GaussDB(DWS)数据仓库,实现Kafka实时入库到GaussDB(DWS)的过程。演示过程包括实时写入和更新已有数据的场景。
实时数仓语法 CREATE TABLE INSERT DELETE UPDATE UPSERT MERGE INTO SELECT ALTER TABLE
出现字段超长,数据同步失败 执行创建OBS外表的SQL语句时,提示Access Denied GDS导入失败后,磁盘占用空间增大 GDS导入数据时,脚本执行报错:out of memory 使用GDS传输数据的过程中,报错:connection failure error 使用DataArts
订阅实时数仓Binlog Binlog使用介绍 当用户需要捕获数据库事件用于数据增量导出Flink等第三方组件,并协同完成数据加工等任务时,DWS实时数仓中的HStore表提供了Binlog功能,通过消费Binlog数据来实现上下游的数据同步,提高数据加工的效率。 传统的数据比如
实时数仓Binlog 订阅实时数仓Binlog Flink实时消费Binlog
第二类工具,关注如何对湖中的数据进行分析、挖掘、利用。数据湖需要具备完善的数据管理能力、多样化的数据分析能力、全面的数据生命周期管理能力、安全的数据获取和数据发布能力。如果没有这些数据治理工具,元数据缺失,湖里的数据质量就没法保障,最终会由数据湖变质为数据沼泽。 随着大数据和AI的发展,数据湖中数据
API,可通过HTTPS请求调用。您可以调用API实现集群管理、快照管理功能。本文档详细介绍了DWS API、参数、示例以及调用方法。 API文档 API概述 API快速入门 可用区接口 集群管理接口 快照管理接口 事件管理接口 数据源接口 审计日志接口 资源管理接口 告警管理接口 连接管理接口 标签管理接口 配额管理接口
TATISTICS视图替代。 9.1.0集群版本数据库接口删除表 表2 日落数据库接口 类型 名称 说明 扩展 file_fdw 本地文件访问,已废弃。 外部服务器 gsmpp_errorinfo_server 读取导入错误表数据,已废弃。访问导入错误表已不再需要gsmpp_errorinfo_server。
Kafka实时入库到GaussDB(DWS) 通过数据湖探索服务 DLI Flink作业将Kafka的消费数据实时同步至GaussDB(DWS)数据仓库,实现Kafka实时入库到GaussDB(DWS)的过程。 了解DLI请参见数据湖产品介绍 。 了解Kafka请参见分布式消息服务Kafka产品介绍。
通过CN查看PGXC_BULKLOAD_STATISTICS视图,可获取GDS、COPY、\COPY等业务执行过程中的实时统计信息。该视图汇总当前集群上各个节点正在执行的导入/导出类业务的实时执行情况,从而可以监控导入导出类业务的实时进度,辅助进行性能问题排查。 PGXC_BULKLOAD_STATISTICS视图
通过CN查看PGXC_BULKLOAD_STATISTICS视图,可获取GDS、COPY、\COPY等业务执行过程中的实时统计信息。该视图汇总当前集群上各个节点正在执行的导入/导出类业务的实时执行情况,从而可以监控导入导出类业务的实时进度,辅助进行性能问题排查。 PGXC_BULKLOAD_STATISTICS视图