检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Batch 使用Scan调用next接口每次最大返回的记录数,与一次读取的列数有关。 Caching RPC请求返回next记录的最大数量,该参数与一次RPC获取的行数有关。 父主题: 样例代码说明
云数据仓库ClickHouse是一种基于MPP(大规模并行处理)架构的数仓服务,基于ClickHouse优异的查询性能,查询效率数倍于传统数据仓库。 背景信息 假定这是一张学生成绩表信息,使用客户端实现业务操作: 创建用户信息表demo_t。 在用户信息中新增访问性别、科目。
select sum(rows) as "总行数", formatReadableSize(sum(data_uncompressed_bytes)) as "原始大小", formatReadableSize(sum(data_compressed_bytes)) as "压缩大小
否则,select sum(count) from table; 只能表述原始导入的行数,而不是select count(*) from table; 的语义,前者值会错误的增大。 另一种方式,就是 将如上的count列的聚合类型改为REPLACE,且依然值恒为1。
- 60 number_of_threads_holding_read_locks 持有读锁的线程数 持有读锁的线程数。 Count 60 number_of_threads_waiting_to_be_read 等待读的线程数 等待读的线程数。
观测JVM线程数是否合理。
Float64 双精度浮点数 同C语言Double类型,双精度浮点数在机内占8个字节,用64位二进制描述。 Decimal类型 Decimal Decimal 有符号的定点数,可在加、减和乘法运算过程中保持精度。
云数据仓库ClickHouse是一种基于MPP(大规模并行处理)架构的数仓服务,基于ClickHouse优异的查询性能,查询效率数倍于传统数据仓库。 ClickHouse集群管理功能 集群创建:在CloudTable集群管理界面完成集群的创建。
RegionServer的活跃handler数(处理用户表请求的handler数、处理meta表请求的handler数和处理replication请求的handler请求数的总和) >= 0 1分钟 rs_numActiveGeneralHandler RegionServer处理用户表请求的活跃
表1 变更计费模式 计费模式 计算规则 付费周期 费用计算 按需计费(变更规格前) CU费用:CU单价 x 节点数 平均每小时的费用 计算节点CU费用:1.4(CU单价:元/小时)x 2(节点)x 1小时 = 2.80元 ZooKeeper节点CU费用:1.4(CU单价:元/小时)
配额说明 表格存储服务用户默认的基础资源如下: 实例数 CPU数量 内存容量(GB) 磁盘数 磁盘容量(GB) 上述资源的配额查看及修改,请参见关于配额。
hbase.hstore.flusher.count 2 -- [1,10] 2 memstore的flush线程数,在put高负载场景下可以适当调大。
AutoBucket: 根据数据量,计算分桶数。 对于分区表,可以根据历史分区的数据量、机器数、盘数,确定一个分桶。 分桶的数量理论上没有上限。 父主题: 数据分区和分桶
统一数仓构建 :一个平台满足统一的数据仓库建设需求,简化繁琐的大数据软件栈。Doris构建的统一数仓,替换了原来由Spark、Hive、Kudu、HBase、Phoenix组成的旧架构,架构大大简化。
计费构成分析 用了一段时间后,用户发现云服务器当前规格无法满足业务需要,于2023/03/18 15:30:00对集群扩容,扩容规格如下: 表1 变更计费模式 计费模式 计算规则 付费周期 费用计算 按需计费(节点扩容前) CU费用:CU单价 x 节点数 平均每小时的费用 Master
具体计算逻辑如下: 本次导入并发数=Math.min(源文件大小/最小处理量,最大并发数,当前BE节点个数) 本次导入单个BE的处理量=源文件大小/本次导入的并发数 其中:最小处理量 min_bytes_per_broker scanner默认为64M,最大并发数max broker
因此,Doris能够较好的满足报表分析、即席查询、统一数仓构建、数据湖联邦查询加速等使用场景,用户可以在此之上构建用户行为分析、AB实验平台、日志检索分析、用户画像分析、订单分析等应用。 Doris最早是诞生于广告报表业务的Palo项目。
Doris规格约束 规格 当Doris集群中FE节点故障数大于等于一半或故障BE数量大于等于3时,Doris集群为异常状态。 查询超时时间默认为300秒。如果在300秒内未完成查询,该查询将被Doris系统取消。
Doris扩容说明 用户需要更多的计算资源或存储资源满足业务需要时,可以在管理控制台进行扩容操作,对已经创建的集群增加节点数(节点扩容)或对集群的节点增加磁盘容量(纵向扩容)。Doris可以很方便地对节点FE、BE进行节点扩容。
并发数 1~2147483647 租户最大可运行查询任务的并发数。该值是对单个FE的限定。例如设置并发数为1,Doris有三个FE节点,则从集群角度看,最大可运行的SQL数为3。 队列长度 1~2147483647 租户最大等待执行的查询任务数。