检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
hive元数据uri,可在hive-site.xml配置文件查看。 hive.metastore.sasl.enabled 可在hive-site.xml配置文件查看。 hive.server2.thrift.sasl.qop 可在hive-site.xml配置文件查看。 hive.server2.authentication
ClickHouse访问RDS MySQL服务 ClickHouse面向OLAP场景提供高效的数据分析能力,支持通过MySQL等数据库引擎将远程数据库服务器中的表映射到ClickHouse集群中,后续可以在ClickHouse中进行数据分析。以下操作通过ClickHouse集群和RDS服务下的MySQL数据库实例对接进行举例说明。
分桶。 每个分桶文件就是一个数据分片(Tablet),Tablet是数据划分的最小逻辑单元。每个Tablet包含若干数据行。各个Tablet之间的数据没有交集,并且在物理上是独立存储的。 一个Tablet只属于一个Partition,相应的多个Tablet在逻辑上归属于不同的分区
在进行应用开发时,要准备的开发和运行环境如表1所示。 表1 开发环境 准备项 说明 操作系统 开发环境:Windows系统,支持Windows7以上版本。 运行环境:Linux系统。 如需在本地调测程序,运行环境需要和集群业务平面网络互通。 安装JDK 安装JDK,版本为1.8.0_272。 安装和配置IntelliJ
确认表格存储服务已经安装,并正常运行。 下载样例工程 下载样例代码工程。 下载完成后,将样例代码工程安装包解压到本地,得到一个Eclipse的JAVA工程。如图1所示。 图1 样例代码工程目录结构 Maven配置 样例工程中已经包含了hbase的客户端jar包,也可以替换成开源的HBase
由于磁盘负载是计算垃圾文件,所以一次性删除过多的垃圾文件,容易造成磁盘不均。 问题现象 Doris的数据磁盘空间如果不加以控制,会因磁盘写满而导致进程不可写。控制Doris系统中的各项操作,尽量避免发生磁盘被写满的情况。 问题分析 频繁写入数据、删除过多垃圾文件,导致磁盘不均衡。 解决办法
在进行数据查询时,使用分区可以有效跳过无用的数据文件,减少数据的读取。 MergeTree引擎会根据索引字段进行数据排序,并且根据index_granularity的配置生成稀疏索引。根据索引字段查询,能快速过滤数据,减少数据的读取,大大提升查询性能。 【建议】明确数据查询的范围。
clickHouseDataSource.getConnection(user, password); 认证用的密码直接写到代码中有很大的安全风险,建议在配置文件或者环境变量中密文存放,使用时解密,确保安全。 父主题: 样例代码说明
为避免被恶意攻击,建议设置复杂度高的密码。 集群节点仅用于运行CloudTable集群,其他客户端应用程序、用户业务程序建议申请独立弹性云服务器部署。 当前CloudTable暂无安全认证机制,如果需使用认证鉴权机制的HBase服务,建议使用MapReduce服务。 Doris
下载证书后,连接客户端指定配置文件。 ./clickhouse client --host 集群内网地址 --port port --user admin --password password --secure --config-file /root/config.xml 配置文件。 <config>
户部署客户端工具后,即可使用CopyTable工具导入数据到CloudTable集群。 使用CopyTable工具导入数据 准备Linux弹性云服务器作为客户端主机,并在客户端主机上部署CloudTable客户端工具。 具体操作请参见使用HBase Shell访问集群。 在部署客
password:创建集群时,创建的密码。 INSERT INTO:后面跟数据表。 cat文件路径:文件存放的路径,路径自定义。 config-file ./config.xml:指定配置文件,请参见ClickHouse安全通道章节。 CSV格式数据导出。 非安全集群 ./clickhouse
host:port:host指的是内网地址,port指的是https协议端口。 test_db:指定数据库名称。 1.sql:指写入sql语句的文件。 path:证书存放的路径。 连接客户端 安全集群创建后,打开详情页面,下载证书。 下载证书后,自定义存放路径。 连接集群。 ./mysql
进入安装客户端目录下进行客户端配置,将如下配置添加到客户端conf目录下的hbase-site.xml文件中。 新增固定配置参数,直接复制如下参数到客户端的hbase-site.xml文件中。 <property > <name>hbase.security.authentication</name>
元数据缓存设置 创建Catalog时可以采用参数file.meta.cache.ttl-second来设置Hive分区文件缓存自动失效时间,也可以将该值设置为0来禁用分区文件缓存,时间单位为:秒。示例如下: CREATE CATALOG hive_catalog PROPERTIES (
重启期间集群将无法提供服务。因此,在重启前,请确定集群中没有正在运行的任务,并且所有数据都已经保存。 如果集群正在处理业务数据,如导入数据、查询数据,一旦重启集群,有可能会导致文件损坏或重启失败。因此,建议停止所有集群任务后,再重启集群。 如果重启失败,将有可能会导致集群不可用,建议联系技术支持人员进行处理或稍后重试。
重启期间集群将无法提供服务。因此,在重启前,请确定集群中没有正在运行的任务,并且所有数据都已经保存。 如果集群正在处理业务数据,如导入数据、查询数据,一旦重启集群,有可能会导致文件损坏或重启失败。因此,建议停止所有集群任务后,再重启集群。 如果重启失败,将有可能会导致集群不可用,建议联系技术支持人员进行处理或稍后重试。
安全组 安全组用来实现安全组内和安全组间弹性云服务器的访问控制,加强弹性云服务器的安全保护。用户可以在安全组中定义各种访问规则,这些规则可以限定弹性云服务器的哪些端口或者协议可以访问,这些访问规则可以作用在进出虚拟机的网络访问上。当弹性云服务器加入该安全组后,即受到这些访问规则的保
、推荐系统、人工智能、时空数据等场景。 CloudTable服务支持标签索引能力,您只需要创建CloudTable集群,就可以在弹性云服务器(ECS)上开发客户端应用进行多维标签查询。 父主题: 开发标签索引应用
的待导入文件就需要通过调整Broker load的导入参数来实现大文件的导入。 根据当前BE的个数和原始文件的大小修改单个BE的最大扫描量和最大并发数。 修改fe配置项。 max_broker_concurrency=BE个数。 当前导入任务单个BE处理的数据量=原始文件大小/m