检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
冷热分离概述 海量大数据场景下,随着业务和数据量的不断增长,数据存储与消耗的资源也日益增长。根据业务系统中用户对不同时期数据的不同使用需求,对膨胀的数据本身进行“冷热”分级管理,不仅可以提高数据分析性能还能降低业务成本。 背景 在数据分析的实际场景中,冷热数据面临着不同的查询频次
“提交”,成功提交集群创建任务。 单击“返回集群管理列表”,可以查看到集群创建的状态。 集群创建需要时间,请您耐心等待。所创集群的初始状态为“创建中”,创建成功后状态更新为“服务中”。 如果创建的集群计费模式为包年/包月,单击提交,成功提交集群创建任务。 单击“去支付”,跳转到购
在网站、App和游戏中,对用户的点击、浏览时长等使用数据进行收集,导入到云数据仓库ClickHouse中,构建用户特征分析大宽表。利用云ClickHouse的优异查询性能,分析系统进行多维度、多模式分析时,可以在亚秒级内响应,快速分析出用户行为特征和规律,为精准营销和会员转化等业务提供有效支持。 企业经营分析。 在企
表格存储服务的管理员权限。 系统角色 依赖Tenant Guest和Server Administrator角色,在同项目中勾选依赖的角色。 表2列出了CloudTable常用操作与系统权限的授权关系,您可以参照该表选择合适的系统权限。 表2 CloudTable操作与系统策略关系 模式 操作
SET_VAR(query_timeout = xxx*/ from table 类似这样通过Hint方式去设置Session 会话变量,不要设置全局的系统变量。 命名规范 【强制】数据库字符集指定utf-8,并且只支持utf-8。 【建议】库名统一使用小写方式,中间用下划线(_)分割,长度62字节内。
Doris通过文件系统在本地数据目录创建目录。 写数据:调用文件系统相关功能,生成文件到本地数据目录下。 合并数据:定期读取数据文件rowset,判断数据时间戳和时间线。如果当前时间减去写入时间小于TTL设置的值,则文件不移动。如果当前时间减去写入时间大于TTL设置的值,则会在系统后台执行并调用OBS
准备开发环境 在进行应用开发时,要准备的开发和运行环境如表1所示。 表1 开发环境 准备项 说明 操作系统 开发环境:Windows系统,支持Windows7以上版本。 运行环境:Linux系统。 如需在本地调测程序,运行环境需要和集群业务平面网络互通。 安装JDK 安装JDK,版本为1
本章节为您介绍对用户授权的方法,操作流程如图1所示。 前提条件 CloudTable服务暂不支持细粒度策略,仅支持系统角色“cloudtable Administrator”。当前CloudTable默认的系统角色“cloudtable Administrator” 仅适用于未开通企业项目的账号,如已
开发环境简介 在进行二次开发时,要准备的开发环境如表1所示。 表1 开发环境 准备项 说明 操作系统 Windows系统,推荐Windows 7及以上版本。 安装JDK 开发环境的基本配置。版本要求:1.7或者1.8。考虑到后续版本的兼容性,强烈推荐使用1.8。 说明: 基于安全
把SequenceFile文件目录上传到CloudTable的客户端所在服务器,假设存放目录为“/tmp/sequencefile”。 Import工具需要在客户端主机的操作系统的shell界面中执行。在客户端机器上进入HBase目录后执行Import工具,Import工具的命令格式如下: ./bin/hbase
算、网络、存储等资源划分成多个集群。一个Region中的多个AZ间通过高速光纤相连,以满足用户跨AZ构建高可用性系统的需求。 项目 区域默认对应一个项目,这个项目由系统预置,用来隔离物理区域间的资源(计算资源、存储资源和网络资源),以默认项目为单位进行授权,用户可以访问您账号中该
预分配内存失败。可能是表中一行的字节长度超过了 100KB。 Too many open files。打开的文件句柄数超过了Linux系统限制。需修改Linux系统的句柄数限制。 如果创建数据分片时超时,也可以通过在fe.conf中设置tablet_create_timeout_secon
Explorer:9.0及更高版本 当使用Internet Explorer 9.0时可能无法登录CloudTable管理控制台,原因是某些Windows系统例如Win7旗舰版,默认禁止Administrator用户,Internet Explorer在安装时自动选择其他用户如System用户安装,从而导致Internet
by '123456' DEFAULT ROLE 'default_role'; CREATE USER命令用于创建一个Doris用户(分配系统默认角色)。 CREATE USER 'jeo' IDENTIFIED BY 'password' DEFAULT ROLE 'default_role';
由于磁盘负载是计算垃圾文件,所以一次性删除过多的垃圾文件,容易造成磁盘不均。 问题现象 Doris的数据磁盘空间如果不加以控制,会因磁盘写满而导致进程不可写。控制Doris系统中的各项操作,尽量避免发生磁盘被写满的情况。 问题分析 频繁写入数据、删除过多垃圾文件,导致磁盘不均衡。 解决办法 尽量一次性写入数据,避免磁盘负载频繁变化。
画像通常用一些标签来刻画自然人/物的特征,而每一个自然人/物所拥有的标签集合是不确定的,数据更新非常频繁,这类数据被广泛应用于市场决策、推荐以及广告系统中。 优势 稀疏矩阵 HBase的稀疏矩阵模型,天然适合非结构化数据的存储,数据表无需预先定义schema,行与行之间不需要严格的列定义。
database = 'default' and table = 'test_table' and active = 1; 图1 查询数据 当前系统时间为2024年6月4日22点,test_table表timestamp列超过一天的数据存储到了名为cold_disk的OBS下。 父主题:
变更配置后对计费的影响 当前包年/包月CloudTable资源的规格不满足您的业务需要时,您可以在云服务器控制台发起变更规格操作,变更时系统将按照如下规则为您计算变更费用: HBase变更配置:水平扩容。 Doris变更配置:水平扩容、磁盘扩容、规格变更。 ClickHouse
如果集群不再使用,您可以将他们删除,以免继续扣费。 您可以在“费用中心 > 总览”页面设置“可用额度预警”功能,当可用额度、通用代金券和现金券的总额度低于预警阈值时,系统自动发送短信和邮件提醒。 当产生欠费后,请您及时充值使可用额度大于0。
HBase:高并发,毫秒级查询响应。 产品优势 丰富场景:兼容HBase、Doris、ClickHouse等多种引擎。 高可靠:架构高可用,内核深度优化,提升系统稳定性。 高性价比:支持冷热分离,不同压缩算法,存储成本低。 简单易用:通过控制台分钟级构建分析集群,提供完善的集群运维管理、监控告警等功