MAPREDUCE服务 MRS-常用参数:EventLog
EventLog
Spark应用在运行过程中,实时将运行状态以JSON格式写入文件系统,用于HistoryServer服务读取并重现应用运行时状态。
参数 |
描述 |
默认值 |
---|---|---|
spark.eventLog.enabled |
是否记录Spark事件,用于应用程序在完成后重构webUI。 |
true |
spark.eventLog.dir |
如果spark.eventLog.enabled为true,记录Spark事件的目录。在此目录下,Spark为每个应用程序创建文件,并将应用程序的事件记录到文件中。用户也可设置为统一的与HDFS目录相似的地址,这样History server就可以读取历史文件。 |
hdfs://hacluster/spark2xJobHistory2x |
spark.eventLog.compress |
spark.eventLog.enabled为true时,是否压缩记录的事件。 |
false |