检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
管服务。只需要几分钟,便可完成海量数据查询数据仓库的搭建,简单轻松地完成对数据的实时查询分析,提升数据价值挖掘的整体效率。云数据仓库ClickHouse是一种基于MPP(大规模并行处理)架构的数仓服务,基于ClickHouse优异的查询性能,查询效率数倍于传统数据仓库。 ClickHouse集群管理功能
解决。如果集群CPU或内存使用率长时间超出阈值,那么用户需要扩容计算单元,均衡负载。 在CloudTable服务控制台,单击“集群管理”打开集群列表,指定集群名称查看集群已使用存储容量是否超过阈值,如果超出阈值,则用户需要扩容存储配额,增加存储容量。 父主题: 通用类
管服务。只需要几分钟,便可完成海量数据查询数据仓库的搭建,简单轻松地完成对数据的实时查询分析,提升数据价值挖掘的整体效率。云数据仓库ClickHouse是一种基于MPP(大规模并行处理)架构的数仓服务,基于ClickHouse优异的查询性能,查询效率数倍于传统数据仓库。 背景信息
Doris集群管理简介 CloudTable集群模式提供了基于Doris的分布式、可伸缩、全托管的实时数据仓库,它提供了亚秒级返回海量数据查询结果的能力,可以支持高并发的点查询场景,也能支持高吞吐的复杂分析场景。 Doris集群管理下,用户申请专属集群,按需使用,专属集群是完全物
算的场景,用户可以利用HBase搭建起TB至PB级数据规模的存储系统,对数据轻松进行过滤分析,毫秒级得到响应,快速发现数据价值。 HBase适用场景有: 海量数据存储。 适用于TB~PB级以上的数据存储,提供动态伸缩能力,方便用户在性能或容量需要改变时,改变集群资源,轻松构建企业海量数据存储系统。
StarRocks集群管理 StarRocks简介 StarRocks是一款全托管分析型数据仓库,可以灵活创建和管理集群以及数据。使用向量化、MPP架构、CBO、智能物化视图、可实时更新的列式存储引擎等技术实现多维、实时、高并发的数据分析。 StarRocks既支持从各种实时和离
ckHouse、StarRocks提供的全托管数据存储和分析服务。CloudTable提供GB~PB级数据存储和分析能力,用于在线查询、数据仓库、数据集市、实时分析等场景。可被广泛应用于互联网、物联网、车联网、金融、政府、物流、制造、零售等行业。 CloudTable产品架构 CloudTable产品架构如下图所示:
获取集群ID 在调用接口的时候部分URL中需要填入集群ID(cluster_id),所以需要获取到集群ID。获取集群ID步骤如下: 登录CloudTable管理控制台。 在左侧导航栏,单击“集群管理”。 在集群列表中找到所需要的集群,然后单击集群名称,进入集群“详情”页面。 在详情页面查看集群ID。
ClickHouse是Click Stream+Data WareHouse的缩写,起初应用于一款Web流量分析工具,基于页面的单击事件流,面向数据仓库进行OLAP分析。当前ClickHouse被广泛的应用于互联网广告、App和Web流量、电信、金融、物联网等众多领域,非常适用于商业智能化应用场景,在全球有大量的应用和实践。
Metastore的元数据服务自动获取Hive库表信息,并进行表数据查询,从而避免了传统外部数据目录多需要手动映射以及数据迁移的复杂工程。 背景 许多客户的Hive表数据在OBS或HDFS上,需要Doris对接Hive外表,且Hive集群分为安全集群与非安全集群,所以可以使用以下4种方式进行数据查询:
VPC,您可以在相同账户下或者不同账户下的VPC之间创建对等连接。更多信息请参见对等连接概述章节。 CloudTable集群访问对端集群,需要为集群添加路由。 说明: 路由添加请联系技术人员。 连通跨区域CloudTable集群与对端集群 ClickHouse/Doris 云连接
使用Get读取数据 功能简介 要从表中读取一条数据,首先需要实例化该表对应的Table实例,然后创建一个Get对象。 可以为Get对象设定参数值,如列族的名称和列的名称。 查询到的行数据存储在Result对象中,Result中可以存储多个Cell。 代码样例 public void
获取账号ID 在调用接口的时候,部分URL中需要填入账号ID(domain-id),所以需要先在管理控制台上获取到账号ID。账号ID获取步骤如下: 登录CloudTable控制台。 单击用户名,在下拉列表中单击“我的凭证”。 在“API凭证”页面中查看账号ID。 图1 账号ID 父主题:
据对业务进行增长分析,平均查询延时10s,95分位的查询延时30s以内,每天的SQL查询量为数万条。 统一数仓构建 :一个平台满足统一的数据仓库建设需求,简化繁琐的大数据软件栈。Doris构建的统一数仓,替换了原来由Spark、Hive、Kudu、HBase、Phoenix组成的旧架构,架构大大简化。
删除集群 如果不再需要集群时,可以删除集群。删除CloudTable集群将会清空所有与该集群相关的资源及数据,且无法恢复,请谨慎操作。 操作步骤 登录表格存储服务管理控制台。 单击管理控制台左上角的,选择区域。 在左侧导航树,单击集群管理。 在集群管理列表中的右上角,输入要搜索的集群名称,单击。
删除集群 如果不再需要集群时,可以删除集群。删除CloudTable ClickHouse集群将会清空所有与该集群相关的资源及数据,且无法恢复,请谨慎操作。 操作步骤 登录表格存储服务管理控制台。 单击管理控制台左上角的,选择区域。 在左侧导航树,单击集群管理。 在集群管理列表中的右上角,输入要搜索的集群名称,单击。
删除集群 如果不再需要集群时,可以删除集群。删除CloudTable集群将会清空所有与该集群相关的资源及数据,且无法恢复,请谨慎操作。 操作步骤 登录表格存储服务管理控制台。 单击管理控制台左上角的,选择区域。 在左侧导航树,单击集群管理。 在集群管理列表中的右上角,输入要搜索的集群名称,单击。
CloudTable HBase支持的特殊符号? HBase支持的业务数据一般特殊符号没有约束,只有Lemon里面的英文冒号需要进行转义。 父主题: 通用类
开发思路 功能分解 根据典型场景说明中的业务进行功能分解,需要开发的功能点如下: 表1 冷热分离功能 步骤 代码实现 步骤1:创建自动归档冷数据策略。 请参见自动存储冷数据。 步骤2:数据表关联数据迁移策略。 请参见数据表关联策略。 步骤3:插入数据。 请参见插入数据。 步骤4:查询插入的数据。
开发思路 功能分解 根据典型场景说明中的业务进行功能分解,需要开发的功能点如下: 表1 冷热分离功能 步骤 代码实现 步骤1:创建ClickHouse冷热分离表。 请参见创建ClickHouse冷热分离数据表。 步骤2:插入数据。 请参见插入验证数据。 步骤3:查询插入的数据。 请参见查询插入数据。