检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
【建议】1000w-2亿以内数据为了方便可以不设置分区,直接用分桶策略(不设置其实Doris内部会有个默认分区)。 【建议】如果分桶字段存在30%以上的数据倾斜,则禁止使用Hash分桶策略,改使用random分桶策略:Create table ... DISTRIBUTED BY RANDOM
JDBC通过非ssl方式连接doris 在应用层进行代码重试和负载均衡时,代码重试需要应用自己多个配置doris前端节点地址。比如发现一个连接异常退出,就自动在其他连接上进行重试。 JDBC Connector 如果使用mysql jdbc connector来连接Doris,可以使用jdbc的自动重试机制:
利用分区分桶裁剪功能,Doris可以支持在线服务业务的超高并发,单节点最高可支持上千QPS。更进一步,Doris结合了向量化执行引擎来充分发挥现代化CPU并行计算能力,辅以智能物化视图技术实现预聚合加速,并可以通过查询优化器同时进行基于规划和基于代价的查询优化。 简单易用:支持标准ANSI
JDBC通过ssl方式连接doris(无需验证证书) 在应用层进行代码重试和负载均衡时,代码重试需要应用自己多个配置doris前端节点地址。比如发现一个连接异常退出,就自动在其他连接上进行重试。 前提条件:集群必须开启HTTPS。 下载证书请在集群详情页面下载。 样例代码: public
10:36:00'); 删除数据迁移策略(STORAGE POLICY) DROP STORAGE POLICY testPolicy; 删除数据迁移策略前,请检查关联该策略的所有表是否都已经删除,否则删除数据迁移策略会失败。 删除含数据迁移策略的数据表后,为了保证数据的安全,冷数
"1d" ); 创建test_tbl1数据表并关联数据迁移策略testPolicy。 创建数据库。 CREATE DATABASE IF NOT EXISTS test_db; 创建test_tbl1表并关联数据迁移策略。 CREATE TABLE IF NOT EXISTS test_db
JDBC通过ssl方式连接doris(验证证书) 在应用层进行代码重试和负载均衡时,代码重试需要应用自己多个配置doris前端节点地址。比如发现一个连接异常退出,就自动在其他连接上进行重试。 前提条件:集群必须开启HTTPS。 下载证书请在集群详情页面下载。 在已安装mysql客
HBase集群水平扩容 为了提升系统的计算能力、存储能力,用户可以通过水平扩容来扩容集群。水平扩容将会产生相应的费用。用户可根据实际需要或业务情况,动态的增加节点的个数,集群将自适应的实现负载均衡,保证业务不中断,平滑扩容。 注意事项 扩容过程中,不会自动重启集群,保证业务不中断,平滑扩容。
用于指定告警规则对应指标的维度名称。仅支持“计算单元”。 计算单元 监控范围 指定的集群监控 指定资源 监控对象 对节点的监控 - 配置告警策略,根据界面提示配置参数。 图4 告警策略 表2 配置告警策略参数说明 参数名称 参数说明 取值样例 选择类型 根据需要可选择从模板导入或自定义创建。 如果当前没有告警模
用于指定告警规则对应指标的维度名称。仅支持“计算单元”。 计算单元 监控范围 指定的集群监控 指定资源 监控对象 对节点的监控 - 配置告警策略,根据界面提示配置参数。 图4 告警策略 表2 配置告警策略参数说明 参数名称 参数说明 取值样例 选择类型 根据需要可选择从模板导入或自定义创建。 如果当前没有告警模
据,而是作为数据分片的透明代理,能够自动路由数据到集群中的各个节点,分布式表需要和其他本地数据表一起协同工作。分布式表会将接收到的读写任务分发到各个本地表,而实际上数据的存储在各个节点的本地表中。 图2 Distributed Distributed表引擎创建模板: ENGINE
选择ClickHouse集群,单击集群名称,进入集群详情页面。 单击“集群信息 > 冷热分存策略 > 修改”,弹出冷热分存界面。修改后单击“确定”,策略修改成功。 冷热分离策略也可在创建集群的时候创建,策略一旦创建无法删除。 图2 修改冷热分离策略 父主题: ClickHouse冷热分离应用
用于指定告警规则对应指标的维度名称。仅支持“计算单元”。 计算单元 监控范围 指定的集群监控 指定资源 监控对象 对节点的监控 - 配置告警策略,根据界面提示配置参数。 图4 告警策略 表2 配置告警策略参数说明 参数名称 参数说明 取值样例 选择类型 根据需要可选择从模板导入或自定义创建。 如果当前没有告警模
Kerberos 提供安全认证的服务。 KerberosAdmin 提供认证用户管理的进程。 KerberosServer 提供认证票据分发的进程。 父主题: Doris连接管理
+---+ +---+ Stream load中,Doris会选定一个节点作为Coordinator节点。该节点负责接数据并分发数据到其他数据节点。您可以通过HTTP协议提交导入命令。如果提交到FE,则FE会通过HTTP redirect指令将请求转发给某一个BE。
根据典型场景说明中的业务进行功能分解,需要开发的功能点如下: 表1 冷热分离功能 步骤 代码实现 步骤1:创建自动归档冷数据策略。 请参见自动存储冷数据。 步骤2:数据表关联数据迁移策略。 请参见数据表关联策略。 步骤3:插入数据。 请参见插入数据。 步骤4:查询插入的数据。 请参见查询插入的数据。 父主题:
CloudTable服务暂不支持细粒度策略,仅支持系统角色“cloudtable Administrator”。当前CloudTable默认的系统角色“cloudtable Administrator” 仅适用于未开通企业项目的账号,如已开通,请使用IAM自定义策略并直接给用户授权。 给用户
据会独立生成part文件,导致part总数量膨胀,建议一批插入的数据属于同一个分区。 【建议】慎用分布式表批量插入。 写分布式表时,数据会分发到集群的所有本地表,每个本地表插入的数据量是总插入量的1/N,batch size可能比较小,会导致data part过多,merge压力变大,甚至出现异常影响数据插入。
用户可以定义冷热管理表,将符合规则的冷数据切换至OBS上进行存储,可以按照分区自动进行冷热数据的判断和迁移。 原理介绍 创建表:创建含有冷热分离策略的数据表,其中存储策略值必须为hot_to_cold。 写数据:新数据会按照信息导入到对应的数据表中。在ClickHouse中,每次数据写入都会生成一
SETTINGS storage_policy = 'hot_to_cold'; 参数说明: storage_policy:指定存储策略,值指定为hot_to_cold。存储策略一旦指定,后期无法更改。 更新TTL。 修改元数据: ALTER TABLE hot_cold_table MODIFY