记录一次生产环境下的jvm内存泄露问题和分析解决过程

版权声明:随便转, 记得给个链接过来哦 https://blog.csdn.net/wk52525/article/details/84566560

发现异常

  • 首先通过我们内部搭建的日志平台发现我们线上环境一个java应用有大量的http接口请求超时,登录linux服务器查看网络环境没有问题,判断是应用自身运行异常,重启应用后发现异常还在,开始查找问题。

初步查找问题

  • 通过指令: jstat -gcutil 查看jvm内存占用和gc情况:
  • 发现老年代内存占用比例过高,并且每次fullGC后并没有有效回收。老年代内存占用百分比变化趋势大致如下:
  • 初步判断大量请求超时和服务瘫痪的直接原因:
    • 每次fullGC后的内存占用越来越高
    • 内存占用增长速度越来越快
    • fullGC的频率越来越高
    • 最终占用达到100%,服务完全瘫痪

分析处理

  • 使用指令:jmap -histo:live *** | more 查看堆内存中的对象数量和大小
    • 发现Log4jLogEvent这个对象实例很多,占用内存也异常的大,初步分析是异步日志传输速度跟不上,导致日志对象堆积在内存中。
  • 尝试使用调整Flume传输日志参数:提高flume单词传输量,减少最大延迟时间
  • 重启应用并监控接口调用情况发现应用暂时恢复正常了。

后续分析

  • 在前一步分析内存的同时,使用指令:jmap -dump:format=b,file=serviceDump.dat将实时内存信息导出(dump过程比较慢,所以在问题暂时处理完后进行后续分析),使用mat分析内存结构:
    • 可以看到主要占据堆内存的对象信息,果然是Flume异步传输日志堵塞的问题。

总结

  • 对jvm内存泄露这类问题的解决,主要是要善于利用jvm提供的类似jstat、jmap等工具来分析查找问题。这次问题虽然解决,但是后续还是存在出现此类问题的风险。所以除了加强jvm问题排查能力的同时,我们也将建立应用监控平台的计划提上日程,希望能对jvm内存、线程等应用实时运行指标进行监控,便于尽早发现问题。 

猜你喜欢

转载自blog.csdn.net/wk52525/article/details/84566560