应用平台 APPSTAGE-方案概述:解决方案

时间:2025-02-28 10:54:00

解决方案

本章节介绍如何通过AppStage运维中心完成对业务实时数据的接入、处理、开发与应用。

图1 数据开发与应用流程
  1. 数据接入

    AppStage运维中心支持接入虚拟机日志和容器日志,您可以根据日志类型选择日志接入方式

    • 虚拟机日志接入:通过日志配置下发任务部署filebeat,并根据日志采集配置设置,通过filebeat采集虚拟机上的业务日志。
    • 容器日志接入:安装daemonset插件,通过daemonset实现容器日志接入。

    (可选)如果需要将原始日志转化为JSON格式,可以在日志接入时选择算子清洗方式对日志数据做清洗,数据清洗如数据清洗说明所示。

  2. 数据导流

    接入的日志数据存在于对应的Topic中,需要创建导流任务,将数据存储在对应的数据库中才能进行日志检索、日志数据的管理和后续开发。

  3. (可选)数据汇聚:当日志量较大且不需要关注原始日志时可以对实时日志进行日志汇聚。
  4. 数据开发
    可以使用存入数据库中的数据进行报表开发、实时监控或者异常告警等应用,可以直接写SQL,但是不同数据源写SQL的方式有差异,且有一定难度,AppStage支持使用运维数仓的方式,会自动根据不同数据源生成对应的SQL。
    1. 创建逻辑主体:使用运维数仓时首先需要创建逻辑主体。
    2. 创建指标:逻辑主体创建成功后,需要创建数据指标。
    3. (可选)创建视图:为需要计算的指标创建查询视图,也可以在查询视图的基础上创建持久化视图或长期存储视图。
  5. 数据应用
support.huaweicloud.com/bestpractice-appstage/appstage_09_0002.html