MAPREDUCE服务 MRS-Flink日志介绍:日志描述
日志描述
- Flink作业运行日志:“${BIGDATA_DATA_HOME}/hadoop/data${i}/nm/containerlogs/application_${appid}/container_{$contid}”。
运行中的任务日志存储在以上路径中,运行结束后会基于Yarn的配置确定是否汇聚到HDFS目录中。
- FlinkResource运行日志:“/var/log/Bigdata/flink/flinkResource”。
日志归档规则:
- FlinkResource运行日志:
- 服务日志默认20MB滚动存储一次,最多保留20个文件,不压缩。
针对 MRS 3.x之前版本,Executor日志默认30MB滚动存储一次,最多保留20个文件,不压缩。
- 日志大小和压缩文件保留个数可以在Manager界面中配置或者修改客户端“客户端安装目录/Flink/flink/conf/”中的log4j-cli.properties、log4j.properties、log4j-session.properties中对应的配置项。
表1 FlinkResource日志列表 日志类型
日志文件名
描述
FlinkResource运行日志
checkService.log
健康检查日志。
kinit.log
初始化日志。
postinstall.log
服务安装日志。
prestart.log
prestart脚本日志。
start.log
启动日志。
- 服务日志默认20MB滚动存储一次,最多保留20个文件,不压缩。
- FlinkServer服务日志、审计日志。
- FlinkServer服务日志、审计日志默认100MB滚动存储一次,服务日志最多保留30天,审计日志最多保留90天。
- 日志大小和压缩文件保留个数可以在Manager界面中配置或者修改客户端“客户端安装目录/Flink/flink/conf/”中的log4j-cli.properties、log4j.properties、log4j-session.properties中对应的配置项。
表2 FlinkServer日志列表 日志类型
日志文件名
描述
FlinkServer运行日志
checkService.log
健康检查日志。
checkFlinkServer.log
FlinkServer健康检查日志。
localhost_access_log..yyyy-mm-dd.txt
FlinkServer访问URL日志。
start_thrift_server.out
thrift server启动日志。
thrift_server_thriftServer_xxx.log.last
cleanup.log
安装卸载实例时的清理日志。
flink-omm-client-IP.log
作业启动日志。
flinkserver_yyyymmdd-x.log.gz
业务归档日志。
flinkserver.log
业务日志。
flinkserver---pidxxxx-gc.log.x.current
GC日志。
kinit.log
初始化日志。
postinstall.log
服务安装日志。
prestart.log
prestart脚本日志。
start.log
启动日志。
stop.log
停止日志。
catalina.yyyy-mm-dd.log
tomcat运行日志.。
catalina.out
host-manager.yyyy-mm-dd.log
localhost.yyyy-mm-dd.log
manager.yyyy-mm-dd.log
FlinkServer审计日志
flinkserver_audit_yyyymmdd-x.log.gz
审计归档日志。
flinkserver_audit.log
审计日志。