云搜索服务 CSS-使用Elasticsearch、自建Logstash和Kibana构建日志管理平台:方案架构

时间:2024-08-28 10:38:54

方案架构

ELKB(Elasticsearch、Logstash、Kibana、Beats)提供了一整套日志场景解决方案,是目前主流的一种日志系统。
  • Elasticsearch是一个开源分布式的搜索和分析引擎,用于存储、搜索和分析大量数据。
  • Logstash是一个服务器端的数据管道,负责收集、解析和丰富数据后,将其发送到Elasticsearch。
  • Kibana为Elasticsearch提供一个开源的数据分析和可视化平台,用于对Elasticsearch中的数据进行搜索、查看和交互。
  • Beats:轻量级的数据收集器(如Filebeat、Metricbeat等),安装在服务器上,负责收集和转发数据到Logstash。

使用Elasticsearch和Logstash构建日志管理平台的方案架构如图1所示。

图1 ELKB架构
  1. 数据收集
    • Beats作为数据收集器,负责从各种源收集数据并发送到Logstash。
    • Logstash可以独立收集数据,或从Beats接收数据,对数据进行过滤、转换和增强。
  2. 数据处理

    Logstash在将数据发送到Elasticsearch之前,对数据进行必要的处理,如解析结构化日志、过滤无用信息等。

  3. 数据存储

    Elasticsearch作为核心存储组件,Elasticsearch索引和存储来自Logstash的数据,提供快速搜索和数据检索功能。

  4. 数据分析与可视化

    使用Kibana对Elasticsearch中的数据进行分析和可视化,创建仪表板和报告,以直观展示数据。

ELKB系统中各组件的版本兼容性请参见https://www.elastic.co/support/matrix#matrix_compatibility

support.huaweicloud.com/bestpractice-css/css_07_0025.html