Spark内存分配诊断

  1.JVM自带众多内存诊断的工具,例如:JMap,JConsole等,第三方IBM JVM Profile Tools等。

  2.日志!在开发、测试、生产环境中最合适的就是日志,特别是Driver产生的日志!调用RDD.cache(),当进行cache()操作时,Driver上的BlockManagerMaster会记录该信息并写进日志中去!

猜你喜欢

转载自www.cnblogs.com/yszd/p/9426675.html