检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据导入导出类 Elasticsearch显示CPU使用率高,导致日志无法写入 ECS服务器部署Logstash推送数据到CSS服务报错 ES-Hadoop导数据时报"Could not write all entries"异常
集群将Oracle或OBS的数据导入Elasticsearch或OpenSearch集群。 当源数据是Oracle数据库时,请参考Oracle数据迁移到云搜索服务完成数据导入。 当源数据是OBS桶中的JSON数据时,请参考OBS数据迁移到云搜索服务完成数据导入。 当数据迁移完成后
Dashboards上使用开源OpenSearch API导入数据:使用POST命令导入数据。 在ECS服务器上使用开源OpenSearch API导入数据:使用Curl命令导入数据。 在OpenSearch Dashboards上使用开源OpenSearch API导入数据 在OpenSearch Da
果数据与导入数据一致,表示数据文件的数据已导入成功。 GET myindex/_search Logstash部署在弹性云服务器上时导入数据 当Logstash部署在同一VPC的弹性云服务时,导入数据的流程说明如图3所示。 图3 Logstash部署在弹性云服务器上时导入数据示意图
导入数据至OpenSearch集群 OpenSearch集群导入数据方式 使用自建Logstash导入数据到OpenSearch 使用开源OpenSearch API导入数据到OpenSearch 使用CDM导入数据到OpenSearch 增强OpenSearch集群数据导入性能
OpenSearch集群导入数据方式 OpenSearch集群导入数据方式介绍 OpenSearch集群支持通过多种方式导入数据,基于业务使用场景可以自行选择导入数据的方式,具体请参见表1。在导入数据前可以根据需要选择是否对Elasticsearch集群进行导入性能增强,具体操作请参
集群将Oracle或OBS的数据导入Elasticsearch或OpenSearch集群。 当源数据是Oracle数据库时,请参考Oracle数据迁移到云搜索服务完成数据导入。 当源数据是OBS桶中的JSON数据时,请参考OBS数据迁移到云搜索服务完成数据导入。 当数据迁移完成后
API导入数据:使用POST命令导入数据。 在ECS服务器上使用开源Elasticsearch API导入数据:使用Curl命令导入数据。 在Kibana上使用开源Elasticsearch API导入数据 在Kibana上支持通过POST命令使用开源Elasticsearch API导入单条数据。 登录云搜索服务管理控制台。
果数据与导入数据一致,表示数据文件的数据已导入成功。 GET myindex/_search Logstash部署在弹性云服务器上时导入数据 当Logstash部署在同一VPC的弹性云服务时,导入数据的流程说明如图3所示。 图3 Logstash部署在弹性云服务器上时导入数据示意图
Elasticsearch集群导入数据方式 Elasticsearch集群导入数据方式介绍 Elasticsearch集群支持通过多种方式导入数据,基于业务使用场景可以自行选择导入数据的方式,具体请参见表1。在导入数据前可以根据需要选择是否对Elasticsearch集群进行导入性能增强,具体操
导入数据至Elasticsearch集群 Elasticsearch集群导入数据方式 使用自建Logstash导入数据到Elasticsearch 使用开源Elasticsearch API导入数据到Elasticsearch 使用CDM导入数据到Elasticsearch 增强
快照管理接口 自动设置集群快照的基础配置(不推荐使用) 修改集群快照的基础配置 手动创建快照 恢复快照 删除快照 设置自动创建快照策略 查询自动创建快照的策略 查询快照列表 停用快照功能 开启自动创建快照功能 关闭自动创建快照功能 父主题: API
增强OpenSearch集群数据导入性能 特性介绍 数据导入性能增强为云搜索服务自主研发的特性,通过优化Bulk路由、文本索引加速、分词加速等方式,有效提升导入性能以及降低写入拒绝的情况。适用于索引分片较多、文本索引量大、导入吞吐量高的场景。 表1 数据导入性能优化方式 优化方式 功能描述
通过备份与恢复迁移第三方Elasticsearch集群至华为云 通过备份与恢复可以将第三方Elasticsearch集群数据迁移至华为云Elasticsearch集群。 应用场景 通过备份与恢复实现第三方Elasticsearch集群和华为云Elasticsearch集群之间的数据迁移,依赖存储仓库。常用于以下场景:
成本、性能或其他战略考虑,希望更换服务提供商至华为云。 方案架构 图1 迁移流程 通过华为云Logstash实现Elasticsearch集群间数据迁移的迁移流程如图1所示。 输入(Input):华为云Logstash接收来自华为云Elasticsearch、自建Elastics
备份自建Elasticsearch数据到华为云OBS。 登录自建Elasticsearch集群的Kibana,选择“Dev Tools”,进入命令行界面。 执行如下命令,创建快照仓库“my_backup”,对接华为云OBS存放快照数据的OBS桶“backup-obs”。 PUT /_snapshot/my_backup
增强Elasticsearch集群数据导入性能 特性介绍 数据导入性能增强为云搜索服务自主研发的特性,通过优化Bulk路由、文本索引加速、分词加速等方式,有效提升导入性能以及降低写入拒绝的情况。适用于索引分片较多、文本索引量大、导入吞吐量高的场景。 表1 数据导入性能优化方式 优化方式 功能描述
修改logstash配置文件output标签下elasticsearch内添加配置项ilm_enabled => false。 重新尝试推送数据到es。 父主题: 数据导入导出类
度。 PUT /my_logs { "settings": { "refresh_interval": "30s" } } 父主题: 数据导入导出类
配置章节。 重建索引,使分片数大于集群节点数。 如果分片数和队列大小都满足条件,但是cpu和负载依然比较高,建议扩容节点。 父主题: 数据导入导出类