Linux服务器性能调优

一.LINUX的服务器性能查看


1.1 cpu性能查看

1.查看物理CPU个数:

cat /proc/cpuinfo |grep "physical id"|sort|uniq|wc -l

2.查看每个物理cpu中的core个数:

cat /proc/cpuinfo |grep "cpu cores"|wc -l

3.逻辑CPU的个数:

cat /proc/cpuinfo |grep "processor"|wc -l

物理cpu个数*核数=逻辑cpu个数(不支持超线程技术的情况下)

1.2 内存查看

1、查看内存使用情况:

#free -m
             total       used       free     shared    buffers     cached
Mem:          3949       2519       1430          0        189       1619
-/+ buffers/cache:        710       3239
Swap:         3576          0       3576

total:内存总数
used:已经使用的内存数
free:空闲内存数
shared:多个进程共享的内存总额
- buffers/cache:(已用)的内存数,即used-buffers-cached
+ buffers/cache:(可用)的内存数,即free+buffers+cached

Buffer Cache用于针对磁盘块的读写;
Page Cache用于针对文件inode的读写,这些Cache能有效地缩短I/O系统调用的时间。

对操作系统来说free/used是系统可用/占用的内存;
对应用程序来说-/+ buffers/cache是可用/占用内存,因为buffer cache很快就会被使用。

1.3 硬盘查看

1.查看硬盘及分区信息:

fdisk -l

2.查看文件系统的磁盘空间占用情况:

df -h

3.查看硬盘的I/O性能
iostat 详细解析可参考使用iostat分析IO性能

常用选项:
-c:只显示系统CPU统计信息,即单独输出avg-cpu结果,不包括device结果
-d:单独输出Device结果,不包括cpu结果
-k/-m:输出结果以kB/mB为单位,而不是以扇区数为单位
-x:输出更详细的io设备统计信息
iostat用法:iostat [ 选项 ] [时间间隔] [次数]
iostat常见用法:
iostat -d -k 1 10        #查看TPS和吞吐量信息
iostat -d -x -k 1 10      #查看设备使用率(%util)、响应时间
iostat -c 1 10            #查看cpu状态
iostat相关字段解析:
avg-cpu各列含义:
---------------
%user: CPU在用户态执行进程的时间百分比。
%nice:  CPU在用户态模式下,用于nice操作,所占用CPU总时间的百分比
%system:CPU处在内核态执行进程的时间百分比
%iowait:CPU用于等待I/O操作占用CPU总时间的百分比
%steal:管理程序(hypervisor)为另一个虚拟进程提供服务而等待虚拟CPU的百分比
%idle:CPU空闲时间百分比

Device各列含义:
-------------
tps:每秒向磁盘设备请求数据的次数,包括读、写请求,为rtps与wtps的和。出于效率考虑,每一次IO下发后并不是立即处理请求,而是将请求合并(merge),这里tps指请求合并后的请求计数;
kB_read/s:每秒从设备(drive expressed)读取的数据量;
kB_wrtn/s:每秒向设备(drive expressed)写入的数据量;
kB_read:读取的总数据量;
kB_wrtn:写入的总数量数据量;
rrqm/s:每秒对该设备的读请求被合并次数,文件系统会对读取同块(block)的请求进行合并
wrqm/s:每秒对该设备的写请求被合并次数
await:平均每次IO请求等待时间(包括等待时间和处理时间,毫秒为单位)
idle:小于70%,I/O的压力就比较大了,说明读取进程中有较多的wait。
%util:在统计时间内所有处理IO时间,除以总共统计时间。例如,如果统计间隔1秒,该设备有0.8秒在处理IO,而0.2秒闲置,那么该设备的%util = 0.8/1 = 80%,所以该参数暗示了设备的繁忙程度。一般地,如果该参数是100%表示设备已经接近满负荷运行了

4、查看linux系统中某目录的大小:

du -sh /root

1.4 查看平均负载

有时候系统响应很慢,但又找不到原因,这时就要查看平均负载了,看它是否有大量的进程在排队等待。

最简单的命令:

uptime--查看过去的1分钟、5分钟和15分钟内进程队列中的平均进程数量

top命令:
请参考:Top详细解析
我们一般只关心以下部分:

top
top - 16:26:48 up 1 day,  1:46,  9 users,  load average: 1.04, 0.63,0.46
如果每个逻辑cpu当前的活动进程不大于3,则系统性能良好;
如果每个逻辑cpu当前的活动进程不大于4,表示可以接受;
如果每个逻辑cpu当前的活动进程大于5,则系统性能问题严重
计算方法:每个逻辑cpu的负载=负载值/逻辑cpu个数

还可以结合vmstat命令来判断系统是否繁忙,其中:

procs(进程)
r:在运行队列中等待运行的进程数。
b:在等待io的进程数。

memeory(内存)
swpd:已经使用的交换内存,单位为KB。
free:空闲的物理内存,单位为KB。
buff:用作缓存区的内存数,单位为KB。
cache:用作高速缓存的内存数,单位为KB。

swap(交换区)
si:从磁盘交换到内存的交换页数量,单位为KB。
so:从内存交换到磁盘的交换页数量,单位为KB。

io(块设备)
bi:发送到块设备的块数,单位为KB。
bo:从块设备接受的块数,单位为KB。

system(系统)
in:每秒的中断数,包括时钟中断。
cs:每秒的环境切换次数。

cpu(处理器)
us:用户进程使用cpu的时间(%)
sy:系统进程使用cpu的时间(%)
id:CPU闲置时间(%)
wa:等待io所消耗的CPU时间(%)
st:从虚拟设备中获得的时间(%)

1.5 其他参数

查看内核版本号:
uname -a

简化命令:uname -r

查看系统是32位还是64位的:
file /sbin/init

查看发行版:
cat /etc/issue
或lsb_release -a

查看系统已载入的相关模块:
lsmod

查看pci设置:
lspci

二 .Linux服务器性能评估


2.1 影响Linux服务器性能的因素

2.1.1 操作系统级

CPU
内存
磁盘I/O带宽
网络I/O带宽

2.1.2 程序应用级

2.2 系统性能评估标准

影响性能因素 糟糕
CPU user% + sys%< 70% user% + sys%= 85% user% + sys% >=90%
内存 Swap In(si)=0 Swap Out(so)=0 Per CPU with 10 page/s More Swap In & Swap Out
磁盘 iowait % < 20% iowait % =35% iowait % >= 50%
%user:表示CPU处在用户模式下的时间百分比。
%sys:表示CPU处在系统模式下的时间百分比。
%iowait:表示CPU等待输入输出完成时间的百分比。
swap in:即si,表示虚拟内存的页导入,即从SWAP DISK交换到RAM
swap out:即so,表示虚拟内存的页导出,即从RAM交换到SWAP DISK

2.3 系统性能分析工具

2.3.1 常用系统命令
vmstat、sar、iostat、netstat、free、ps、top等,具体用法及输出含义见本博客内相关命令使用类博客
2.3.2 常用组合方式

vmstat、sar、iostat检测是否是CPU瓶颈
free、vmstat检测是否是内存瓶颈
iostat检测是否是磁盘I/O瓶颈
netstat检测是否是网络带宽瓶颈

2.4 Linux性能评估与优化

系统整体性能评估(uptime命令)

uptime
09:40:15 up  1:09,  1 user,  load average: 0.00, 0.00, 0.00

注意:

  • load average三值大小一般不能大于系统CPU的个数。
系统有8个CPU,如load average三值长期大于8,说明CPU很繁忙,负载很高,可能会影响系统性能。
  • 但偶尔大于8,一般不会影响系统性能。

  • 如load average输出值小于CPU个数,则表示CPU有空闲时间片,比如本例中的输出,CPU是非常空闲的

    2.5 CPU性能评估

    2.5.1 利用vmstat命令监控系统CPU
    显示系统各种资源之间相关性能简要信息,主要看CPU负载情况。
    下面是vmstat命令在某个系统的输出结果:

root@ssg:~# vmstat 2 3
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 0  0      0 3110376 114616 511804    0    0    24     5   11   16  0  0 99  0  0
 0  0      0 3110500 114616 511804    0    0     0     0   18   21  0  0 100  0  0
 0  0      0 3110500 114616 511804    0    0     0     0   24   32  0  0 100  0  0

procs
r–运行和等待cpu时间片的进程数,这个值如果长期大于系统CPU的个数,说明CPU不足,需要增加CPU
b–在等待资源的进程数,比如正在等待I/O、或者内存交换等。
cpu
us
用户进程消耗的CPU 时间百分比。
us的值比较高时,说明用户进程消耗的cpu时间多,但是如果长期大于50%,就需要考虑优化程序或算法。

sy
内核进程消耗的CPU时间百分比。Sy的值较高时,说明内核消耗的CPU资源很多。
根据经验,us+sy的参考值为80%,如果us+sy大于 80%说明可能存在CPU资源不足。

2.5.2 利用sar命令监控系统CPU
sar对系统每方面进行单独统计,但会增加系统开销,不过开销可以评估,对系统的统计结果不会有很大影响。
下面是sar命令对某个系统的CPU统计输出:

[root@webserver ~]# sar -u 3 5

Linux
 2.6.9-42.ELsmp (webserver) 11/28/2008_i686_
 (8 CPU)

11:41:24
 AM CPU %user %nice%system
 %iowait %steal %idle

11:41:27
 AM all 0.88 0.00 0.29 0.00 0.00 98.83

11:41:30
 AM all 0.13 0.00 0.17 0.21 0.00 99.50

11:41:33
 AM all 0.04 0.00 0.04 0.00 0.00 99.92

11:41:36
 AM all 90.08 0.00 0.13 0.16 0.00 9.63

11:41:39
 AM all 0.38 0.00 0.17 0.04 0.00 99.41

Average:
 all 0.34 0.00 0.16 0.05 0.00 99.45

输出解释如下:

%user列显示了用户进程消耗的CPU 时间百分比。
%nice列显示了运行正常进程所消耗的CPU 时间百分比。
%system列显示了系统进程消耗的CPU时间百分比。
%iowait列显示了IO等待所占用的CPU时间百分比
%steal列显示了在内存相对紧张的环境下pagein强制对不同的页面进行的steal操作 。
%idle列显示了CPU处在空闲状态的时间百分比。

你是否遇到过系统CPU整体利用率不高,而应用缓慢的现象?

在一个多CPU的系统中,如果程序使用了单线程,会出现这么一个现象,CPU的整体使用率不高,但是系统应用却响应缓慢,这可能是由于程序使用单线程的原因,单线程只使用一个CPU,导致这个CPU占用率为100%,无法处理其它请求,而其它的CPU却闲置,这就导致了整体CPU使用率不高,而应用缓慢现象的发生。

2.5.3 内存性能评估
2.5.3.1 利用free指令监控内存
free是监控Linux内存使用状况最常用的指令,看下面的一个输出:

root@ssg:~# free
              total        used        free      shared  buff/cache   available
Mem:        3911160      174308     3110272       52984      626580     3415928
Swap:       4064252           0     4064252

经验公式:

应用程序可用内存/系统物理内存>70%,表示系统内存资源非常充足,不影响系统性能;
应用程序可用内存/系统物理内存<20%,表示系统内存资源紧缺,需要增加系统内存;
20%<应用程序可用内存/系统物理内存<70%,表示系统内存资源基本能满足应用需求,暂时不影响系统性能

2.5.3.2 利用vmstat命令监控内存

root@ssg:~# vmstat 2 3
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 0  0      0 3110220 114784 511868    0    0    21     4   10   15  0  0 100  0  0
 0  0      0 3110344 114788 511864    0    0     0     4   19   26  0  0 100  0  0
 0  0      0 3110344 114788 511868    0    0     0     0   15   21  0  0 100  0  0

输出解释:

swpd--切换到内存交换区的内存数量(k为单位)。如swpd值偶尔非0,不影响系统性能
free--当前空闲的物理内存数量(k为单位)
buff  cache的内存数量,一般对块设备的读写才需要缓冲
cache cached的内存数量
一般作为文件系统cached,频繁访问的文件都会被cached,如cache值较大,说明cached的文件数较多,如果此时IO中bi比较小,说明文件系统效率比较好。

swap

si--由磁盘调入内存,也就是内存进入内存交换区的数量。
so--由内存调入磁盘,也就是内存交换区进入内存的数量。
si、so的值长期不为0,表示系统内存不足。需增加系统内存。

2.6 磁盘I/O性能评估
2.6.1 磁盘存储基础
频繁访问的文件或数据尽可能用内存读写代替直接磁盘I/O,效率高千倍。
将经常进行读写的文件与长期不变的文件独立出来,分别放置到不同的磁盘设备上。

对于写操作频繁的数据,可以考虑使用裸设备代替文件系统。
裸设备(raw device),也叫裸分区(原始分区),是一种没有经过格式化,不被Unix通过文件系统来读取的特殊块设备文件。由应用程序负责对它进行读写操作。不经过文件系统的缓冲。它是不被操作系统直接管理的设备。这种设备少了操作系统这一层,I/O效率更高。不少数据库都能通过使用裸设备作为存储介质来提高I/O效率。

裸设备优点:

数据可直接读写,不需经过操作系统级缓存,节省内存资源,避免内存资源争用;
避免文件系统级维护开销,如文件系统需维护超级块、I-node等;
避免了操作系统cache预读功能,减少了I/O请求

使用裸设备的缺点是:

数据管理、空间管理不灵活,需要很专业的人来操作

2.6.2 利用iostat评估磁盘性能

root@ssg:~# iostat -d 2 3
Linux 4.15.0-24-generic (ssg)   20180717日     _x86_64_    (4 CPU)

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sda              19.17      2147.97      1350.07   60433497   37984525

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sda               0.00         0.00         0.00          0          0

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sda               0.00         0.00         0.00          0          0

解释如下:

Blk_read/s--每秒读取数据块数
Blk_wrtn/s--每秒写入数据块数
Blk_read--读取的所有块数
Blk_wrtn--写入的所有块数

可通过Blk_read/s和Blk_wrtn/s值对磁盘的读写性能有一个基本的了解.
如Blk_wrtn/s值很大,表示磁盘写操作频繁,考虑优化磁盘或程序,
如Blk_read/s值很大,表示磁盘直接读操作很多,可将读取的数据放入内存
规则遵循:

长期的、超大的数据读写,肯定是不正常的,这种情况一定会影响系统性能

2.6.3 利用sar评估磁盘性能
通过“sar –d”组合,可以对系统的磁盘IO做一个基本的统计,请看下面的一个输出:

root@ssg:~# sar -d
Linux 4.15.0-24-generic (ssg)   20180717日     _x86_64_    (4 CPU)

092439秒       DEV       tps  rd_sec/s  wr_sec/s  avgrq-sz  avgqu-sz     await     svctm     %util
092456秒    dev8-0      0.12      0.00      5.65     48.00      0.00     10.00     10.00      0.12
092456秒    dev8-1      0.00      0.00      0.00      0.00      0.00      0.00      0.00      0.00
092456秒    dev8-2      0.12      0.00      5.65     48.00      0.00     10.00     10.00      0.12
092456秒    dev8-3      0.00      0.00      0.00      0.00      0.00      0.00      0.00      0.00
Average:       dev8-0      0.39      0.07      6.92     18.09      0.00      5.13      5.13      0.20
Average:       dev8-1      0.00      0.00      0.00      0.00      0.00      0.00      0.00      0.00
Average:       dev8-2      0.39      0.07      6.92     18.09      0.00      5.13      5.13      0.20
Average:       dev8-3      0.00      0.00      0.00      0.00      0.00      0.00      0.00      0.00

参数含义:

await--平均每次设备I/O操作等待时间(毫秒)
svctm--平均每次设备I/O操作的服务时间(毫秒)
%util--一秒中有百分之几的时间用于I/O操作

对磁盘IO性能评判标准:

正常svctm应小于await值,而svctm和磁盘性能有关,CPU、内存负荷也会对svctm值造成影响,过多的请求也会间接的导致svctm值的增加。

await值取决svctm和I/O队列长度以及I/O请求模式,
如果svctm的值与await很接近,表示几乎没有I/O等待,磁盘性能很好,
如果await的值远高于svctm的值,则表示I/O队列等待太长,系统上运行的应用程序将变慢,
此时可以通过更换更快的硬盘来解决问题。

%util–衡量磁盘I/O重要指标

如%util接近100%,表示磁盘产生的I/O请求太多,I/O系统已经满负荷工作,该磁盘可能存在瓶颈。
可优化程序或者 通过更换 更高、更快的磁盘。

2.6.4 网络性能评估

通过ping命令检测网络的连通性
通过netstat –i组合检测网络接口状况
通过netstat –r组合检测系统的路由表信息
通过sar –n组合显示系统的网络运行状态

三 . Linux服务器性能调优

3.1 为磁盘I/O调整Linux内核电梯算法
选择文件系统后,该算法可以平衡低延迟需求,收集足够数据,有效组织对磁盘读写请求。
3.2 禁用不必要的守护进程,节省内存和CPU资源
许多守护进程或服务通常非必需,消耗宝贵内存和CPU时间。将服务器置于险地。禁用可加快启动时间,释放内存。减少CPU要处理的进程数
一些应被禁用的Linux守护进程,默认自动运行:

序号 守护进程 描述
1 Apmd 高级电源管理守护进程
2 Nfslock 用于NFS文件锁定
3 Isdn ISDN Moderm支持
4 Autofs 在后台自动挂载文件系统(如自动挂载CD-ROM)
5 Sendmail 邮件传输代理
6 Xfs X Window的字体服务器
3.3 关掉GUI
3.4 清理不需要的模块或功能
服务器软件包中太多被启动的功能或模块实际上是不需要的(如Apache中的许多功能模块),禁用掉有助于提高系统内存可用量,腾出资源给那些真正需要的软件,让它们运行得更快。
3.5 禁用控制面板
在Linux中,有许多流行的控制面板,如Cpanel,Plesk,Webmin和phpMyAdmin等,禁用释放出大约120MB内存,内存使用量大约下降30-40%。
3.6 改善Linux Exim服务器性能
使用DNS缓存守护进程,可降低解析DNS记录需要的带宽和CPU时间,DNS缓存通过消除每次都从根节点开始查找DNS记录的需求,从而改善网络性能。
Djbdns是一个非常强大的DNS服务器,它具有DNS缓存功能,Djbdns比BIND DNS服务器更安全,性能更好,可以直接通过http://cr.yp.to/下载,或通过Red Hat提供的软件包获得。
3.7 使用AES256增强gpg文件加密安全
为提高备份文件或敏感信息安全,许多Linux系统管理员都使用gpg进行加密,在使用gpg时,最好指定gpg使用AES256加密算法,AES256使用256位密钥,它是一个开放的加密算法,美国国家安全局(NSA)使用它保护绝密信息
3.8 远程备份服务安全
安全是选择远程备份服务最重要的因素,大多数系统管理员都害怕两件事:(黑客)可以删除备份文件,不能从备份恢复系统。

为了保证备份文件100%的安全,备份服务公司提供远程备份服务器,使用scp脚本或RSYNC通过SSH传输数据,这样,没有人可以直接进入和访问远程系统,因此,也没有人可以从备份服务删除数据。在选择远程备份服务提供商时,最好从多个方面了解其服务强壮性,如果可以,可以亲自测试一下。
3.9 更新默认内核参数设置
为了顺利和成功运行企业应用程序,如数据库服务器,可能需要更新一些默认的内核参数设置,例如,2.4.x系列内核消息队列参数msgmni有一个默认值(例如,共享内存,或shmmax在Red Hat系统上默认只有33554432字节),它只允许有限的数据库并发连接,下面为数据库服务器更好地运行提供了一些建议值(来自IBM DB2支持网站):

kernel.shmmax=268435456 (32位)
kernel.shmmax=1073741824 (64位)
kernel.msgmni=1024
fs.file-max=8192
kernel.sem=”250 32000 32 1024″

3.10 优化TCP
优化TCP协议有助于提高网络吞吐量,跨广域网的通信使用的带宽越大,延迟时间越长时,建议使用越大的TCP Linux大小,以提高数据传输速率,TCP Linux大小决定了发送主机在没有收到数据传输确认时,可以向接收主机发送多少数据。

3.11 选择正确的文件系统

使用ext4文件系统取代ext3
  • Ext4是ext3文件系统的增强版,扩展了存储限制
  • 具有日志功能,保证高水平的数据完整性(在非正常关闭事件中)
  • 非正常关闭和重启时,它不需要检查磁盘(这是一个非常耗时的动作)
  • 更快的写入速度,ext4日志优化了硬盘磁头动作

3.12 使用noatime文件系统挂载选项
在文件系统启动配置文件fstab中使用noatime选项,如果使用了外部存储,这个挂载选项可以有效改善性能。

3.13 调整Linux文件描述符限制
Linux限制了任何进程可以打开的文件描述符数量,默认限制是每进程1024,这些限制可能会阻碍基准测试客户端(如httperf和apachebench)和Web服务器本身获得最佳性能,Apache每个连接使用一个进程,因此不会受到影响,但单进程Web服务器,如Zeus是每连接使用一个文件描述符,因此很容易受默认限制的影响。

打开文件限制是一个可以用ulimit命令调整的限制,ulimit -aS命令显示当前的限制,ulimit -aH命令显示硬限制(在未调整/proc中的内核参数前,你不能增加限制)。

Linux第三方应用程序性能技巧

对于运行在Linux上的第三方应用程序,一样有许多性能优化技巧,这些技巧可以帮助你提高Linux服务器的性能,降低运行成本。

3.14 正确配置MySQL
为了给MySQL分配更多的内存,可设置MySQL缓存大小,要是MySQL服务器实例使用了更多内存,就减少缓存大小,如果MySQL在请求增多时停滞不动,就增加MySQL缓存。

3.15 正确配置Apache
检查Apache使用了多少内存,再调整StartServers和MinSpareServers参数,以释放更多的内存,将有助于你节省30-40%的内存。

3.16 分析Linux服务器性能
提高系统效率最好的办法是找出导致整体速度下降的瓶颈并解决掉,下面是找出系统关键瓶颈的一些基本技巧:

● 当大型应用程序,如OpenOffice和Firefox同时运行时,计算机可能会开始变慢,内存不足的出现几率更高。

● 如果启动时真的很慢,可能是应用程序初次启动需要较长的加载时间,一旦启动好后运行就正常了,否则很可能是硬盘太慢了。

●CPU负载持续很高,内存也够用,但CPU利用率很低,可以使用CPU负载分析工具监控负载时间。

3.17 将日志文件转移到内存中
当一台机器处于运行中时,最好是将系统日志放在内存中,当系统关闭时再将其复制到硬盘,当你运行一台开启了syslog功能的笔记本电脑或移动设备时,ramlog可以帮助你提高系统电池或移动设备闪存驱动器的寿命,使用ramlog的一个好处是,不用再担心某个守护进程每隔30秒向syslog发送一条消息,放在以前,硬盘必须随时保持运转,这样对硬盘和电池都不好

3.18 先打包,后写入
在内存中划分出固定大小的空间保存日志文件,这意味着笔记本电脑硬盘不用一直保持运转,只有当某个守护进程需要写入日志时才运转,注意ramlog使用的内存空间大小是固定的,否则系统内存会很快被用光,如果笔记本使用固态硬盘,可以分配50-80MB内存给ramlog使用,ramlog可以减少许多写入周期,极大地提高固态硬盘的使用寿命。

3.19 一般调优技巧
尽可能使用静态内容替代动态内容,如果你在生成天气预告,或其它每隔1小时就必须更新的数据,最好是写一个程序,每隔1小时生成一个静态的文件,而不是让用户运行一个CGI动态地生成报告。

为动态应用程序选择最快最合适的API,CGI可能最容易编程,但它会为每个请求产生一个进程,通常,这是一个成本很高,且不必要的过程,FastCGI是更好的选择,和Apache的mod_perl一样,都可以极大地提高应用程序的性能。

猜你喜欢

转载自blog.csdn.net/jameswuang/article/details/81031459