线上服务内存OOM问题定位三板斧

开发 开发工具
相信大家都有感触,线上服务内存OOM的问题,是最难定位的问题,于是我们进行了一次线上服务内存OOM问题排查实战演练,将内存OOM问题定位三板斧分享出来。

相信大家都有感触,线上服务内存OOM的问题,是最难定位的问题,不过归根结底,最常见的原因:

  • 本身资源不够
  • 申请的太多
  • 资源耗尽

58到家架构部,运维部,58速运技术部联合进行了一次线上服务内存OOM问题排查实战演练,将内存OOM问题定位三板斧分享出来,希望对大家也有帮助。

[[200745]]

题目

某服务器上部署了Java服务一枚,出现了OutOfMemoryError,请问有可能是什么原因,问题应该如何定位?

不妨设服务进程PID为10765(没错,就是CPU占用高的那个倒霉的进程《线上服务CPU100%问题快速定位实战》)。

解决思路

Java服务OOM,最常见的原因为:

  • 有可能是内存分配确实过小,而正常业务使用了大量内存
  • 某一个对象被频繁申请,却没有释放,内存不断泄漏,导致内存耗尽
  • 某一个资源被频繁申请,系统资源耗尽,例如:不断创建线程,不断发起网络连接

更具体的,可以使用以下的一些工具逐一排查。

一、确认是不是内存本身就分配过小

方法:

  1. jmap -heap 10765 

如上图,可以查看新生代,老生代堆内存的分配大小以及使用情况,看是否本身分配过小。

二、找到最耗内存的对象

方法:

  1. jmap -histo:live 10765 | more 

图示:

如上图,输入命令后,会以表格的形式显示存活对象的信息,并按照所占内存大小排序:

  • 实例数
  • 所占内存大小
  • 类名

是不是很直观?对于实例数较多,占用内存大小较多的实例/类,相关的代码就要针对性review了。

上图中占内存最多的对象是RingBufferLogEvent,共占用内存18M,属于正常使用范围。

如果发现某类对象占用内存很大(例如几个G),很可能是类对象创建太多,且一直未释放。例如:

  • 申请完资源后,未调用close()或dispose()释放资源
  • 消费者消费速度慢(或停止消费了),而生产者不断往队列中投递任务,导致队列中任务累积过多

三、确认是否是资源耗尽

工具:

  • pstree
  • netstat

查看进程创建的线程数,以及网络连接数,如果资源耗尽,也可能出现OOM。

这里介绍另一种方法,通过

  • /proc/${PID}/fd 
  • /proc/${PID}/task 

 

可以分别查看句柄详情和线程数。

例如,某一台线上服务器的sshd进程PID是9339,查看

  • ll /proc/9339/fd 
  • ll /proc/9339/task 

sshd共占用了四个句柄

如上图,sshd共占用了四个句柄

  • 0 -> 标准输入
  • 1 -> 标准输出
  • 2 -> 标准错误输出
  • 3 -> socket(容易想到是监听端口)

sshd只有一个主线程PID为9339,并没有多线程。

所以,只要

  • ll /proc/${PID}/fd | wc -l 
  • ll /proc/${PID}/task | wc -l (效果等同pstree -p | wc -l) 

就能知道进程打开的句柄数和线程数。

作业

对线上服务器的一台tomcat,查看proc下的fd目录和task目录,特别是对于句柄fd目录的查询,有意想不到的惊喜哟,一定要动手试试哈。

【本文为51CTO专栏作者“58沈剑”原创稿件,转载请联系原作者】

戳这里,看该作者更多好文

责任编辑:赵宁宁 来源: 51CTO专栏
相关推荐

2013-07-03 11:13:58

DevOps

2014-07-29 11:25:18

LinuxMySQL

2011-03-09 15:23:25

Windows Ser

2020-09-03 15:32:08

Wireshark数据包分析

2017-03-23 10:54:58

LINUXMYSQL优化

2022-05-07 11:47:36

服务器架构

2009-02-19 10:20:00

2012-11-08 16:05:23

2020-11-18 08:17:14

Java源码Class

2020-03-09 13:37:49

Serverless无服务器腾讯云

2019-05-30 14:30:42

技术管理架构

2022-07-22 09:55:29

软件工程师

2019-11-05 08:24:34

JavaOOM快速定位

2021-02-15 22:07:18

项目策略模式

2019-08-13 16:23:19

JavaScript数组方法

2010-05-28 09:17:45

ARM服务器

2018-06-19 08:50:15

岗位总监管理

2021-03-29 17:51:00

瑞数信息攻防演练

2021-06-25 15:19:13

攻防演练

2019-11-14 08:34:08

LinuxMySQLCPU
点赞
收藏

51CTO技术栈公众号