线上项目CPU,内存都跑满了,怎么调试?

记得第一次当整个电商项目负责人的时候,在使用量高峰期时,运维的同事突然跑过来说,xx服务的某台机器的CPU,内存暴了(OOM了),赶紧想办法怎么做。当时的心情既高兴,又紧张。高兴的是产品真的有使用在使用了,有价值了;紧张的是出问题,要怎么解决?

出现这种问题有2种情况,一种是直接服务程序终止,一种是服务程序在还在(线程通过PS命令查看还在运行),但无法对外提供服务。

当然出现这种情况,都是第一时间让运维同事将nginx上的upstream对应的IP注释掉,不让流量在进来到故障的机器上。

对于第一种程序直接终止的,在启动的命令中,加上

-XX:+HeapDumpOnOutOfMemoryError \
-XX:HeapDumpPath=${HeapDumpPath} \
复制代码

输出当时的jvm内存镜像,然后通过jconsole来进行分析。

最头痛的是第二情况,服务程序还在运行,但是CPU/内存都满了,这种也就是假死,通过日志文件啥的,很难分析到问题,在纠结的时候,有同事看到了Arthas,我靠,可以直接在线debug,于是乎就搞起来,但当时(三年前吧)只是命领行格式。当初通过

- dashboard
- thread
- jvm
- memory
- trace
复制代码

等几个命令,就可以去分析问题。而最终的问题原因,都是程序没写好(哇〜〜 又写bug了

  • 程序对象没控制好,在高并发时拼命产生对象,加大jvm的回收。
  • 下游服务接口慢,然后调用方没有控制好,卡线程(积压),挂。
  • 其它单服务达到瓶劲,只能扩服务(这锅可以不背了)。

最近由于项目的需要,又去逛了一遍Arthas的官网,发现Arthas加上了很多功能,感觉更加强大了。比如:

1、 提供了Web Console的界面功能

通过Web浏览器就可以连接Arthas,在web界面就可以输入各种命令来查看信息,简单强大的不要不要的,来看看它的界面:

_images/web-console-local.png

Arthas目前支持Web Console,用户在attach成功之后,可以直接访问:http://127.0.0.1:8563/。可以填入IP,远程连接其它机器上的arthas。

默认情况下,arthas只listen 127.0.0.1,所以如果想从远程连接,则可以使用 --target-ip参数指定listen的IP,更多参考-h的帮助说明。 注意会有安全风险,考虑下面的tunnel server的方案。

2、 提供springboot快速集成 arthas-spring-boot-starter

不像以前的使用方式,是在运行java的服务器,单独启动Arthas来查看对应的java进程的数据。传统是这样使用,启动,选择对应的进程来看。

$ java -jar arthas-boot.jar
* [1]: 35542
  [2]: 71560 member-api.jar
  [3]: 38871 order-api.jar
复制代码

由于大部分的开发人员都不具备服务器的权限,根本无法执行上面的操作,官方大佬要考虑到这种情况,提供了arthas-spring-boot-starter,让使用者零代码接入(简直神器来的),只需要在pom中引入:

        <dependency>
            <groupId>com.taobao.arthas</groupId>
            <artifactId>arthas-spring-boot-starter</artifactId>
            <version>${arthas.version}</version>
        </dependency>
复制代码

当前只支持spring-boot 2.0以上的版本。

默认情况下,arthas-spring-boot-starter会禁掉stop命令。

当前版本是:3.6.1

集成arthas后,项目启动成功后,可以访问如下的URL,看是否集成成功。

http://localhost:8080/actuator/arthas(假定endpoint端口是 8080)

{
    "arthasConfigMap": {
        "agent-id": "hsehdfsfghhwertyfad",
        "tunnel-server": "ws://47.75.156.201:7777/ws",
    }
}
复制代码

配合 Arthas Tunnel,实现完美的界面查看。

3、 提供了Arthas Tunnel的集成功能

这是一个Arthas的管理功能,在一般的情况,普通的开发人员是不具备服务器的使用权限,没办法登录到指定的机器上去看具体的命令Console,而这个服务,可以实现一种远程管理/连接多个Arthas(Agent)的功能。

Arthas Tunnel是一个spring boot的应用程序,可以从官网/github上进行下载,直接java -jar启动:

java -jar  arthas-tunnel-server.jar
复制代码

默认情况下,arthas tunnel server的web端口是8080,arthas agent连接的端口是7777

启动之后,可以访问 http://127.0.0.1:8080/ ,再通过agentId连接到已注册的arthas agent上。

通过Spring Boot的Endpoint,可以查看到具体的连接信息: http://127.0.0.1:8080/actuator/arthas ,登陆用户名是arthas,密码在arthas tunnel server的日志里可以找到,比如:

32851 [main] INFO  o.s.b.a.s.s.UserDetailsServiceAutoConfiguration

Using generated security password: f1dca050-3777-48f4-a577-6367e55a78a2
复制代码

上面中的password,就是登录arthas的密码。

然后对第2点集成arthas时,添加上如下的配置,配置tunnel server实现远程管理:

arthas.agent-id=hsehdfsfghhwertyfad
arthas.tunnel-server=ws://47.75.156.201:7777/ws
复制代码

agent-id 不是必须的,不配置的话,会自动产生一个随机数,看实际的需要来配置。

具体的内容,可以参考官试文档:

arthas.aliyun.com/doc/quick-s…

github.com/alibaba/art…

猜你喜欢

转载自juejin.im/post/7101501357500137479
今日推荐