检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
load是一个同步的导入方式,用户通过发送HTTP协议发送请求将本地文件或数据流导入到Doris中。Stream load同步执行导入并返回导入结果。用户可直接通过请求的返回体判断本次导入是否成功。 Stream load主要适用于导入本地文件,或通过程序导入数据流中的数据。 基本原理 下图展示了Stream
步骤三:创建DLI Flink作业进行数据同步 创建弹性资源和队列,请参见“创建弹性资源池并添加队列”章节。 创建跨源连接,请参见创建增强型跨源连接。 分别测试DLI与上游MRS Kafka和下游CloudTable HBase的连通性。 弹性资源和队列创建后,单击“资源管理 > 队列管
由于磁盘负载是计算垃圾文件,所以一次性删除过多的垃圾文件,容易造成磁盘不均。 问题现象 Doris的数据磁盘空间如果不加以控制,会因磁盘写满而导致进程不可写。控制Doris系统中的各项操作,尽量避免发生磁盘被写满的情况。 问题分析 频繁写入数据、删除过多垃圾文件,导致磁盘不均衡。 解决办法
如下示例中通过on cluster语句在集群的所有Server节点创建数据库。 其中数据库名定义在clickhouse-example.properties文件的databaseName字段。 样例代码 private void createDatabase(String databaseName
续费概述 续费简介 目前CloudTable提供包年/包月、按需计费模式。 对于包年/包月模式,您在购买时一次性付费,使用过程中不会再额外计费。包周期到期后,资源会依次进入宽限期、保留期,如果需要继续使用,请及时续费。详情请参见资源到期说明。 对于按需计费模式,系统会按小时扣减费
使用,专属集群是物理隔离且不受其他业务影响,方便用户管理。 ClickHouse集群创建成功后,使用客户端访问集群,请参见以下章节。 准备弹性云服务。 使用客户端访问集群。 ClickHouse命令简介。 父主题: ClickHouse集群管理
构造请求 本节介绍REST API请求的组成,并以调用获取IAM用户Token接口说明如何调用API,该API获取用户的Token,Token可以用于调用其他API时鉴权。 您还可以通过这个视频教程了解如何构造请求调用API:https://bbs.huaweicloud.com/videos/102987
password:创建集群时,创建的密码。 INSERT INTO:后面跟数据表。 cat文件路径:文件存放的路径,路径自定义。 config-file ./config.xml:指定配置文件,请参见ClickHouse安全通道章节。 CSV格式数据导出。 非安全集群 ./clickhouse
> Existing Projects into Workspace > Next > Browse”。 显示“浏览文件夹”对话框。如图1所示。 选择样例工程文件夹,单击“Finish”。 图1 导入样例工程 右键单击cloudtable-example工程,在弹出的右键菜单中单
调整日志打印级别(DEBUG,INFO,WARN,ERROR,FATAL)来显示更详细的信息。可以通过修改log4j.properties文件来实现,如: hbase.root.logger=INFO,console log4j.logger.org.apache.zookeeper=INFO
通用类 CloudTable集群能够提供什么服务? 为什么要选择CloudTable服务? 创建CloudTable HBase集群要准备什么? 使用CloudTable服务时需要关注什么? CloudTable HBase集群支持哪些压缩算法? 能停止CloudTable服务吗?
创建表:CloudTable Doris通过文件系统在本地数据目录创建目录。 写数据:调用文件系统相关功能,生成文件到本地数据目录下。 合并数据:定期读取数据文件rowset,判断数据时间戳和时间线。如果当前时间减去写入时间小于TTL设置的值,则文件不移动。如果当前时间减去写入时间大于T
true时,指定不需要同步的多个database,以‘,’分隔。db名称是大小写敏感的。 driver_url可以通过以下三种方式指定: 文件名。如mysql-connector-java-5.1.47.jar。需将Jar包预先存放在FE和BE部署目录的jdbc_drivers/目录下。系统会自动在这个目录下寻找。
host:port:host指的是内网地址,port指的是https协议端口。 test_db:指定数据库名称。 1.sql:指写入sql语句的文件。 path:证书存放的路径。 连接客户端 安全集群创建后,打开详情页面,下载证书。 下载证书后,自定义存放路径。 连接集群。 ./mysql
查看并获取当前目录的所有jar文件。 将“clickhouse-examples\out\artifacts\clickhouse_examples.jar”目录下的所有jar文件和“clickhouse-examples”目录下的“conf”文件夹拷贝到ECS的同一目录下。 登
已冻结”,您将无法对处于保留期的按需计费资源执行任何操作。 保留期到期后,如果您仍未支付账户欠款,那么计算资源(vCPU和内存)、云硬盘和弹性公网IP都将被释放,数据无法恢复。 图1 按需计费CloudTable集群生命周期 华为云根据客户等级定义了不同客户的宽限期和保留期时长。
clickHouseDataSource.getConnection(user, password); 认证用的密码直接写到代码中有很大的安全风险,建议在配置文件或者环境变量中密文存放,使用时解密,确保安全。 父主题: 样例代码说明
数据分布 数据分片 Doris表按两层结构进行数据划分,分别是分区和分桶。 每个分桶文件就是一个数据分片(Tablet),Tablet是数据划分的最小逻辑单元。每个Tablet包含若干数据行。各个Tablet之间的数据没有交集,并且在物理上是独立存储的。 一个Tablet只属于一
安全通道和非安全通道同时开启后无法关闭。 安全集群连接步骤 安全集群创建后,打开详情页面,下载证书。 登录SSH工具,自定义证书路径。 访问集群。 修改以下配置文件的证书存放路径,保存后将配置文件放在root路径下。 <config> <secure>true</secure> <openSSL>
的待导入文件就需要通过调整Broker load的导入参数来实现大文件的导入。 根据当前BE的个数和原始文件的大小修改单个BE的最大扫描量和最大并发数。 修改fe配置项。 max_broker_concurrency=BE个数。 当前导入任务单个BE处理的数据量=原始文件大小/m