检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
想到里面的字段等。 快捷键 在编辑器上操作时可以使用快捷键来快速编写SQL。 用户设置 针对OBS进行设置,可以全局指定OBS桶,在这个桶下面创建一个文件目录后,脚本默认会保存到该OBS桶的文件夹下面,无需再选择。可以设置数据库和schema权限过滤,开启开关后,根据当前的数据库
使用OBS服务器上的停用词文件创建字典的过程如下: 将停用词文件上传到OBS服务器。例如将french.stop文件上传到OBS服务器obsv3.sa-fb-1.externaldemo.com上名为gaussdb的桶中,其URL为https://gaussdb.obsv3.sa-fb-1
使用。 通过账单查找云服务资源并停止计费 为了确保所有计费资源都能够被找到并删除,您可以在费用账单中获取计费资源的ID,通过这些ID信息找到具体的资源,然后将其删除。具体操作如下: 登录管理控制台,在顶部菜单栏中选择“费用与成本 > 费用账单”。 进入费用账单页面。 选择“流水和明细账单
TEXTFILE; 将product_info.txt数据文件导入Hive。 Hive对接OBS场景:回到OBS管理控制台,单击并行文件系统名称,选择“对象 > 上传对象”,将product_info.txt上传至OBS并行文件系统中product_info表路径下。 Hive对接HDFS场景:将product_info
了解Kafka请参见分布式消息服务Kafka产品介绍。 图1 Kafka实时入库DWS 本实践预计时长90分钟,实践用到的云服务包括虚拟私有云 VPC及子网、弹性负载均衡 ELB、弹性云服务器 ECS、对象存储服务 OBS、分布式消息服务 Kafka、数据湖探索 DLI和数据仓库服务 GaussDB(DWS),基本流程如下:
只有表对象的属主和被授予gs_redaction_policy预置角色的用户具有创建脱敏策略的权限。 仅支持在普通表和非EXTERNAL SCHEMA的外表(OBS、HDFS、GDS、协调分析外表)创建数据脱敏策略,不支持为系统表、EXTERNAL SCHEMA的外表、临时表、UNLOGGED表以及视图和函数对象创建脱敏策略。
计费。包周期到期后,资源会依次进入宽限期、保留期,若需要继续使用,请及时续费。详情请参见资源到期说明。 对于按需计费模式,系统会按小时扣减费用,只要您账户上有足够余额,就可以一直使用服务。当账户余额不足时,就会导致欠费,因此在欠费前请及时充值。 云服务生命周期 在一台包年/包月云
手动创建外部服务器 创建外表语法(CREATE FOREIGN TABLE (SQL on Hadoop or OBS))中,需指定一个与MRS数据源连接相关联的外部服务器。 当您通过GaussDB(DWS)管理控制台创建MRS数据源连接时,数据库管理员dbadmin会在默认数据
FOREIGN TABLE (GDS导入导出) CREATE FOREIGN TABLE (SQL on OBS or Hadoop) CREATE FOREIGN TABLE (OBS导入导出) CREATE FOREIGN TABLE (SQL on other GaussDB(DWS))
TABLE (OBS导入导出) OBS读写性能监控 新增视图GS_OBS_LATENCY,记录OBS的平均延迟信息。 开发指南>系统表和系统视图>系统视图>GS_OBS_LATENCY OBS读写带宽视图 新增读写带宽视图GS_OBS_READ_TRAFFIC和GS_OBS_WRIT
号等信息。 步骤二:上传数据到OBS桶 创建OBS桶,并将本地的csv格式数据上传到OBS桶。 步骤三:连接GaussDB(DWS)集群并导入数据进行分析 使用SQL编辑器连接GaussDB(DWS)数据库,并创建OBS外表,通过OBS外表将OBS桶数据导入GaussDB(DWS)集群,并进行简单SQL查询。
本实践演示通过数据湖探索服务DLI Flink作业将分布式消息服务Kafka的消费数据实时同步至DWS数据仓库,实现Kafka实时入库到DWS的过程。 本实践预计时长90分钟,实践用到的云服务包括虚拟私有云VPC及子网、弹性负载均衡ELB、弹性云服务器ECS、对象存储服务OBS、分布式消息服
在集群故障或者需要将数据回滚到指定快照版本时,用户使用该功能。 该功能仅8.1.3.200及以上集群版本支持。 该功能目前支持备份设备为OBS的快照。 快照状态为“可用”时,用户才可以进行快照恢复。 不支持恢复逻辑集群与资源池到当前集群。 操作步骤 登录GaussDB(DWS)管理控制台。
更新数据源的任务ID。 请求示例 修改ID为“d303f19c-fbd1-4716-ae04-07d1ff358f22”数据源的委托名称为“DWSAccessOBS”: PUT https://{Endpoint} /v1.0/89cd04f168b84af6be287f71730fdb4b/clus
热数据存储是直接将频繁被查询或更新,对访问的响应时间要求很高的热数据存储在DN数据盘中。 冷数据存储将不更新,偶尔被查询,对访问的响应时间要求不高的冷数据存储在OBS中。 因为其存储介质的不同,决定了两者的成本、性能、以及适用场景,如表1所示: 表1 冷热数据存储区别 存储名称 读取、写入速度 成本 容量
查询hudi外表属性(hoodie.properties) 查询OBS上hudi数据的hoodie.properties: 1 SELECT * FROM hudi_get_options('SCHEMA.FOREIGN_TABLE'); 示例:查询当前schema下的OBS外表rtd_mfdt_int_unit_ft的hudi属性:
快速入门 一键式创建GaussDB(DWS)集群,上传csv本地数据到云存储OBS桶,通过创建OBS外表实现数据导入并简单分析。 1h 零售业经营多维度分析 环境已预置样例数据在OBS桶,通过创建OBS外表导入样例数据,再使用聚合函数、group by、order by、视图进行多维度分析。
0表及外表生效。 obs_io_req_count bigint OBS IO请求的总数量。该字段仅对存算分离3.0表及外表生效。 obs_io_req_retry_count bigint OBS IO请求重试的总次数。该字段仅对存算分离3.0表及外表生效。 obs_io_req_rate_limit_count
e_sales”表对应的外表“obs_from_store_sales_001”的创建语法。请从附录创建外表拷贝其他外表的语法进行创建。 注意,以下语句中的<obs_bucket_name>代表OBS桶名,仅支持部分区域,当前支持的区域和对应的OBS桶名请参见表1。GaussDB
前提条件 已完成创建MRS数据源,具体可参见管理MRS数据源。 SQL on Hudi支持读取存储在MRS上的hudi表,在使用上仅创建数据源与OBS不同,其他无差异。 对接多套MRS集群规避 由于JDK的限制,同一JVM同时仅能保存一份kerberos配置文件信息,导致一套DWS集群无法同时通过SQL