MAPREDUCE服务 MRS-Flink日志介绍:日志描述

时间:2024-06-29 16:25:11

日志描述

日志存储路径:
  • Flink作业运行日志:“${BIGDATA_DATA_HOME}/hadoop/data${i}/nm/containerlogs/application_${appid}/container_{$contid}”。

    运行中的任务日志存储在以上路径中,运行结束后会基于Yarn的配置确定是否汇聚到HDFS目录中。

  • FlinkResource运行日志:“/var/log/Bigdata/flink/flinkResource”。

日志归档规则:

  1. FlinkResource运行日志:
    • 服务日志默认20MB滚动存储一次,最多保留20个文件,不压缩。

      针对 MRS 3.x之前版本,Executor日志默认30MB滚动存储一次,最多保留20个文件,不压缩。

    • 日志大小和压缩文件保留个数可以在Manager界面中配置或者修改客户端“客户端安装目录/Flink/flink/conf/”中的log4j-cli.properties、log4j.properties、log4j-session.properties中对应的配置项。
    表1 FlinkResource日志列表

    日志类型

    日志文件名

    描述

    FlinkResource运行日志

    checkService.log

    健康检查日志。

    kinit.log

    初始化日志。

    postinstall.log

    服务安装日志。

    prestart.log

    prestart脚本日志。

    start.log

    启动日志。

  2. FlinkServer服务日志、审计日志。
    • FlinkServer服务日志、审计日志默认100MB滚动存储一次,服务日志最多保留30天,审计日志最多保留90天。
    • 日志大小和压缩文件保留个数可以在Manager界面中配置或者修改客户端“客户端安装目录/Flink/flink/conf/”中的log4j-cli.properties、log4j.properties、log4j-session.properties中对应的配置项。
    表2 FlinkServer日志列表

    日志类型

    日志文件名

    描述

    FlinkServer运行日志

    checkService.log

    健康检查日志。

    checkFlinkServer.log

    FlinkServer健康检查日志。

    localhost_access_log..yyyy-mm-dd.txt

    FlinkServer访问URL日志。

    start_thrift_server.out

    thrift server启动日志。

    thrift_server_thriftServer_xxx.log.last

    cleanup.log

    安装卸载实例时的清理日志。

    flink-omm-client-IP.log

    作业启动日志。

    flinkserver_yyyymmdd-x.log.gz

    业务归档日志。

    flinkserver.log

    业务日志。

    flinkserver---pidxxxx-gc.log.x.current

    GC日志。

    kinit.log

    初始化日志。

    postinstall.log

    服务安装日志。

    prestart.log

    prestart脚本日志。

    start.log

    启动日志。

    stop.log

    停止日志。

    catalina.yyyy-mm-dd.log

    tomcat运行日志.。

    catalina.out

    host-manager.yyyy-mm-dd.log

    localhost.yyyy-mm-dd.log

    manager.yyyy-mm-dd.log

    FlinkServer审计日志

    flinkserver_audit_yyyymmdd-x.log.gz

    审计归档日志。

    flinkserver_audit.log

    审计日志。

support.huaweicloud.com/cmpntguide-mrs/mrs_01_0596.html