服务器负载暴涨之后怎么办?

正在赶写演讲的ppt,突然听到短信想起,没理会,以为是广告呢。刚放下念头,短信接连不断的响起来,不用想

,准是哪个服务器报警了。

打开nagios监控见面,发现3个服务器(3个服务器处于同一个集群下,业务为论坛,同时在线人数大概4万人)的

load过高,处于warning状态

1、 先查看访问流量,通过对比,跟以前没什么差别。

2、 查看每个服务器的进程数和cpu使用情况,跟以前也没什么差别。

3、 查看系统日志,每个服务器都有“TCP: Treason uncloaked! Peer 113.247.241.146:21345/80 shrinks

window 2128147967:2128149427. Repaired.”

4、 查看php日志,大量“[WARNING] fpm_request_check_timed_out(), line 158: child 25379, script

'/mnt/html/bbs/forum.php' (pool default) execution timed out (120.306361 sec), terminating”。打

开论坛首页,居然花了120多秒。我在php配置文件里设置的执行中断时间是120秒,超过这个值则关闭该子进程。

看来应该从这里下手了。

先问问其他人,最近有没有改程序,有没有加插件?答:“没有”。我再仔细检查了系统:

(1)       查看有没有文件系统损坏而不能写入

(2)       查看分区是否满(实际上满了的话,有短信报警的)

(3)       查看tcp连接状态,还没以前多呢,看来不是系统的问题

那么,与之有关联的还有数据库、nfs文件系统以及memchached。先检查容易的,好!先检查nfs,正常;再检查

memcached,正常。看来估计数据库有什么问题了。

登录数据库,先查看数据库错误日志,tail –f 一下,滚动输出,看来问题找到了。输入的内容主要有一下几行

[ERROR] Got error 134 when reading table './uc_mumayi/cdb_uc_members'

[ERROR] Got error 134 when reading table './uc_mumayi_net/cdb_uc_members'

[ERROR] /usr/local/mysql/libexec/mysqld: The table 'pre_common_session' is full
 

接下来,从处理表满开始,把它的行数值设置巨大一点,我设置的是1000万,指令为:mysql>ALTER TABLE

pre_common_session MAX_ROWS=10000000; 完毕后3个web服务器的负载马上就下降了。从报错信息中,可以判断

有2个表可能损坏了。检查一下,如果真坏了,就修复一下吧!

(1)检查第一个表:mysql> check table cdb_uc_notelist;输出为

+---------------------------+-------+----------+-----------------------------------------------

------------+
| Table                     | Op    | Msg_type | Msg_text                                       

          |
+---------------------------+-------+----------+-----------------------------------------------

------------+
| uc_mumayi.cdb_uc_notelist | check | warning | 11 clients are using or haven't closed the table

properly |
| uc_mumayi.cdb_uc_notelist | check | warning | Size of datafile is: 260372       Should be:

259760       |
| uc_mumayi.cdb_uc_notelist | check | error    | Wrong bytesec: 101-114-110 at linkstart: 258412

          |
| uc_mumayi.cdb_uc_notelist | check | error    | Corrupt                                        

          |
+---------------------------+-------+----------+-----------------------------------------------

------------+
4 rows in set (0.04 sec)真损坏了,修复一把:

mysql> repair table cdb_uc_notelist;

输出为

+---------------------------+--------+----------+----------------------------------------------

-+
| Table                     | Op     | Msg_type | Msg_text                                     

|
+---------------------------+--------+----------+----------------------------------------------

-+
| uc_mumayi.cdb_uc_notelist | repair | info     | Wrong bytesec: 101-114-110 at 258412; Skipped

|
| uc_mumayi.cdb_uc_notelist | repair | warning | Number of rows changed from 5715 to 5742      |
| uc_mumayi.cdb_uc_notelist | repair | status   | OK                                           

|
+---------------------------+--------+----------+----------------------------------------------

-+

(2)修复第2个表,方法同上。

(3)再次检查表状态。

(4)让管理员从后台登录,查看是否正常。

猜你喜欢

转载自tongxiaoming520.iteye.com/blog/1389223
今日推荐