MAPREDUCE服务 MRS-由于kafka配置的限制,导致Spark Streaming应用运行失败:回答

时间:2024-06-19 16:04:42

回答

如下图所示,Spark Streaming应用中定义的逻辑为,从kafka中读取数据,执行对应处理之后,然后将结果数据回写至kafka中。

例如:Spark Streming中定义了批次时间,如果数据传入Kafka的速率为10MB/s,而Spark Streaming中定义了每60s一个批次,回写数据总共为600MB。而Kafka中定义了接收数据的阈值大小为500MB。那么此时回写数据已超出阈值。此时,会出现上述错误。

图1 应用场景

解决措施:

方式一:推荐优化Spark Streaming应用程序中定义的批次时间,降低批次时间,可避免超过kafka定义的阈值。一般建议以5-10秒/次为宜。

方式二:将kafka的阈值调大,建议在 MRS Manager中的Kafka服务进行参数设置,将socket.request.max.bytes参数值根据应用场景,适当调整。

support.huaweicloud.com/devg-mrs/mrs_06_0253.html