检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
05 Logstash集群 此模块为您提供云搜索服务Logstash集群的基本使用指导。 创建集群 创建Logstash集群 配置集群 配置中心 配置样例 管理集群 日志管理 证书管理 06 OpenSearch集群 此模块为您提供云搜索服务OpenSearch集群的基本使用指导。
本节提供一份创建向量索引、导入向量数据和查询向量数据的Python代码示例,介绍如何使用客户端实现向量检索。 前提条件 客户端已经安装python依赖包。如果未安装可以执行如下命令安装: pip install opensearch-py==1.1.0 代码示例 1 2 3 4 5 6
在规划节点规格时,推荐优先考虑高配置但节点数量较少的方案。例如,一个由3个节点组成的集群,每个节点配置为32核CPU和64GB内存,通常比一个由12个节点组成的集群,每个节点配置为8核CPU和16GB内存,在集群的稳定性和扩展性方面更具优势。 优势主要体现在如下方面。 集群稳定性:高配置节点通常能提
CSS服务中如何配置Elasticsearch索引副本数量? Elasticsearch集群在创建索引时可以指定分片数量,即主分片数量。索引创建成功后,主分片数量不可修改,副本数量可以修改,“副分片数量 = 主分片数量 x 副本数量”。 在Kibana中可以修改Elasticsearch集群的副本数量。
仅当集群开启了“安全模式”和“HTTPS访问”时,才可以选择是否配置“公网访问”。配置公网访问后,用户可以获得一个公网访问的IP地址,通过这个IP地址可以在公网访问该安全集群,详细配置请参考配置Elasticsearch集群公网访问。 单击“下一步:高级配置”。 在“高级配置”页面,完成Elasticsearch集群的快照和其他高级配置。
delete(indexName); // 关闭客户端 example.close(); } } 父主题: 配置OpenSearch集群向量检索
功的集群进行日常监控。配置集群监控后,就可以在CES管理控制台直观查看集群的监控指标数据。 配置集群监控的操作流程: 配置告警规则:根据实际业务需要对监控指标设置自定义告警规则,当监控指标超过设置的阈值时,会以邮箱、HTTP、HTTPS等方式通知您。 配置监控对象:为集群或集群中某个节点配置监控指标。
通过调整不同索引的查询参数,可以获得更高的查询性能或者查询精度,其他参数请参见表2。 表2 可选的查询参数说明 参数 子参数 说明 GRAPH类索引配置参数 ef 查询时考察邻居节点的队列大小。值越大查询精度越高,查询速度会变慢。默认值为200。 取值范围:(0, 100000]。 max_scan_num
根据指标分析可能出现的原因,针对性优化。 增加队列数,减少拒绝作业,修改参数write.queue_size取值。 单击需要修改参数的集群名称,进入集群基本信息页面。 选择“参数配置”,查找write.queue_size并修改取值。 如果没有此参数,可以在自定义参数列进行添加。详细请参考参数配置章节。 重建索引,使分片数大于集群节点数。
射到角色,实现用户关联角色权限。 角色映射功能允许配置角色的成员,通过用户名、后端角色和主机名将用户分配给相应的角色。支持为每种角色配置集群访问权限、索引和文档的访问权限,以及Kibana的使用权限。 有关安全集群的更多安全配置信息以及详细的操作指导,可以参考Elasticsearch的安全模式官方介绍。
将会发生索引项的换进换出,此时将会影响查询的性能。通过清除缓存API能够将不再使用的索引缓存清空,保证热数据索引的查询性能。 父主题: 配置Elasticsearch集群向量检索
参数类型 描述 project_id 是 String 项目ID。获取方法请参见获取项目ID和名称。 cluster_id 是 String 指定配置自定义词库的集群ID。 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 bucketName 是 String 词库文件
sh集群的每个节点上配置指向源数据服务器IP的回程路由。 配置Logstash集群路由 配置Logstash迁移任务 通过Logstash集群的配置中心,可以创建并启动Logstash配置文件,以实现数据从不同数据源到目的端的迁移。 创建Logstash配置文件 启动Logstash迁移任务
Integer 测试结果。 1:表示连接成功。 0:表示地址不可达。 2:表示端口不可达。 3:表示域名无法解析。 -2:表示位置错误。 请求示例 配置端口测试连通性。 POST /v1.0/6204a5bd270343b5885144cf9c8c158d/clusters/4f3deec
String 指定添加自定义模板的集群ID。 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 配置文件名称。 template 是 AddFavoriteReqTemplate object 自定义模板实体对象。 表3 AddFavoriteReqTemplate
根据任务堆积现象优化客户端写入或查询程序。 根据业务情况,如果集群长期处于高负载状态,则集群会存在写入、查询缓慢,节点频繁掉线等情况。需要根据需要扩容节点规模,或分业务重新规划集群规模。 如果日常使用有95%堆内存波动和节点掉线情况,可根据需要使用流量控制功能。更多信息,请参见配置ELas
"_source" : { "id" : 3 } } ] } } 父主题: 配置Elasticsearch集群向量检索
数据量很大,如何进行快照备份? 如果快照数据量极大,快照备份要超过一天时,可参考如下方法进行优化。 快照备份的时候指定索引,比如先分批,默认是*,将会备份所有的索引。 使用自定义快照仓库。 创建自定义仓库。 除了使用云搜索服务提供的repo_auto之外,客户也可以自己创建一个仓库,接口见如下:
本节提供一份创建向量索引、导入向量数据和查询向量数据的Python代码示例,介绍如何使用客户端实现向量检索。 前提条件 客户端已经安装python依赖包。如果未安装可以执行如下命令安装: # 根据集群实际版本填写,此处以7.6举例 pip install elasticsearch==7.6 代码示例
通过调整不同索引的查询参数,可以获得更高的查询性能或者查询精度,其他参数请参见表2。 表2 可选的查询参数说明 参数 子参数 说明 GRAPH类索引配置参数 ef 查询时考察邻居节点的队列大小。值越大查询精度越高,查询速度会变慢。默认值为200。 取值范围:(0, 100000]。 max_scan_num