http://fuliang.iteye.com/blog/1024360ios
http://unixhelp.ed.ac.uk/CGI/man-cgi?vmstatweb
-------------------------------------------------------------------------------------------------------------------------------- 算法
工做这么久了,主要就是服务器端的开发,因为业务性质,对于性能的考虑是天天不得不面对的问题,每次出方案,都是以预估总pv、单机支持最大并发、预计机器资源。。。。。。等等一系列问题开始,因此程序运行中单个函数的耗时,上线后总体性能的观察都很是重要。通过一段时间的积累和同事的指点,把相关的内容记录下,也与有一样需求的同窗分享,共同进步。
一:首先,可已从以下四个方面观察你的服务器机器目前的性能状况:
1,CPU
2,内存
3,磁盘I/O带宽
4,网络I/O带宽
二:其次,要对如何评估系统性能有个基本的标准,通过一段时间的观察,概括以下:
1,对于CPU,正常状况(非高峰期)下, user% + sys% < 60% 是很好的状况
也许你会问,为何要小于60%,剩余的40%作什么?这个是业务性质决定的,tx的业务都是有时间段高峰期的,好比早九点-十点,晚八点-十点,是用户访问高峰期,咱们要保证服务器可以处理尖峰并发,因此大多时候有30%~40%的空闲是能够接受并且是必须的。当你的服务器在平时cpu使用率一直>80%,那就要不得不考虑扩容或者程序自己性能优化了调皮。
2,对于内存,一样正常状况下,Swap In(si)=0,Swap Out(so)=0是很好的状况,固然容许偶尔的尖峰,可是曲线要相对平滑,消峰是颇有必要的。若是出现 Per CPU with 10 page/s,那么就要重点观察了。
3,对于磁盘,正常状况下,iowait % < 25%是很好的状况,若是长期>40%,那么就会影响反映能力了
其中:
%user:表示CPU处在用户模式下的时间百分比。
%sys:表示CPU处在系统模式下的时间百分比。
%iowait:表示CPU等待输入输出完成时间的百分比。
swap in:即si,表示虚拟内存的页导入,即从SWAP DISK交换到RAM
swap out:即so,表示虚拟内存的页导出,即从RAM交换到SWAP DISK。
三:接下来介绍,在工做中经常使用到的性能分析工具, 有些经常使用的系统命令:
vmstat、sar、iostat、netstat、free、ps、top等
工做中,我比较经常使用的组合方式为:
1, 用vmstat、sar、iostat检测是不是CPU瓶颈
2,用free、vmstat检测是不是内存瓶颈
3,用iostat检测是不是磁盘I/O瓶颈
4, 用netstat检测是不是网络带宽瓶颈
一般,会用命令uptime,看下整体cpu使用状况,例如我其中一台线上机器状况
uptime
8:40pm up 580 days 2:34, 3 users, load average: 1.24, 1.44, 1.67
重点关注,load average ,这三个值的大小通常不能大于系统CPU的个数,例如,本输出中系统有4个CPU,若是load average的三个值长期大于4时,说明CPU很繁忙,负载很高,可能会影响系统性能,可是偶尔大于4时,倒不用担忧,通常不会影响系统性能。相反,若是load average的输出值小于CPU的个数,则表示CPU还有空闲的时间片,好比本例中的输出,CPU是很是空闲的,为下次业务放量最准备,哈哈。
1) 用vmstat 详细分析cpu的性能:用该命令分析我线上机器
vmstat 1
procs -----------memory---------- ---swap-- -----io---- -system-- -----cpu------
r b swpd free buff cache si so bi bo in cs us sy id wa st
2 0 189216 5439580 506476 1303832 0 0 0 0 0 0 14 6 79 1 0
6 1 189216 5439588 506476 1303832 0 0 0 60 12544 13986 17 5 77 1 0
1 0 189216 5439340 506476 1303832 0 0 0 0 12441 14394 18 4 78 0 0
1 0 189216 5439588 506476 1303832 0 0 0 0 12540 15346 18 4 78 0 0
解释下:
Procs
r:列表示运行和等待cpu时间片的进程数,这个值若是长期大于系统CPU的个数,说明CPU不足,须要增长CPU。
b:列表示在等待资源的进程数,好比正在等待I/O、或者内存交换等。
Cpu
us:列显示了用户进程消耗的CPU 时间百分比。us的值比较高时,说明用户进程消耗的cpu时间多,可是若是长期大于50%,就须要考虑优化程序或算法。
sy:列显示了内核进程消耗的CPU时间百分比。Sy的值较高时,说明内核消耗的CPU资源不少。
根据经验,us+sy的参考值为70%,若是us+sy大于 70%说明可能存在CPU资源不足。
Memory
swpd: 虚拟内存使用状况,单位:KB
free: 空闲的内存,单位KB
buff: 被用来作为缓存的内存数,通常对块设备的读写才须要缓冲,单位:KB
cache:表示page cached的内存数量,通常做为文件系统cached,频繁访问的文件都会被cached,若是cache值较大,说明cached的文件数较多,若是此时IO中bi比较小,说明文件系统效率比较好。
Swap
si: 从磁盘交换到内存的交换页数量,单位:KB/秒
so: 从内存交换到磁盘的交换页数量,单位:KB/秒
I/O
bi: 发送到块设备的块数,单位:块/秒
bo: 从块设备接收到的块数,单位:块/秒
System
in: 每秒的中断数,包括时钟中断
cs: 每秒的环境(上下文)切换次数
注意:若是 r常常大于 4 ,且id常常少于40,表示cpu的负荷很重。
若是si,so 长期不等于0,表示内存不足。
若是disk 常常不等于0, 且在 b中的队列 大于3, 表示 io性能很差。
2) 用sar分析cpu性能,sar是个很是强大的工具,能够对系统的每一个方面进行单独的统计,可是使用sar命令会增长系统开销,不过这些开销是能够评估的,对系统的统计结果不会有很大影响。
sar -u 1 4
Linux 2.6.16.60-0.21-TENCENT-090803 (RS_Server_vip) 04/28/11
21:06:13 CPU %user %nice %system %iowait %idle
21:06:14 all 16.83 0.00 4.46 0.99 77.72
21:06:15 all 15.08 0.00 4.52 0.00 80.40
21:06:16 all 17.21 0.00 3.99 0.00 78.80
21:06:17 all 16.75 0.00 3.25 0.00 80.00
Average: all 16.47 0.00 4.05 0.25 79.23
对上面每项的输出解释以下:
%user列显示了用户进程消耗的CPU 时间百分比。
%nice列显示了运行正常进程所消耗的CPU 时间百分比。
%system列显示了系统进程消耗的CPU时间百分比。
%iowait列显示了IO等待所占用的CPU时间百分比
%steal列显示了在内存相对紧张的环境下pagein强制对不一样的页面进行的steal操做 。
%idle列显示了CPU处在空闲状态的时间百分比。
有的时候会遇到cpu很空闲,可是性能低下的状况,多是因为开的进程数小于你cpu的数目,一般web svr进程都会开的很大,由于会调用不少后台服务,属于io类型偏多,逻辑处理偏少的,例如我线上web svr 是240个proc,但逻辑svr一般进程数相对小,由于逻辑处理是耗cpu型的,若是是异步的一般是4个proc,同步的16-32个不等。进程数与服务器性能也是息息相关的。
3)内存性能评估free
free -m
total used free shared buffers cached
Mem: 8110 2792 5318 0 494 1263
-/+ buffers/cache: 1034 7076
Swap: 2055 184 1870
注意:通常有这样一个经验公式:应用程序可用内存/系统物理内存>70%时,表示系统内存资源很是充足,不影响系统性能,应用程序可用内存/系统物理内存<20%时,表示系统内存资源紧缺,须要增长系统内存,20%<应用程序可用内存/系统物理内存<70%时,表示系统内存资源基本能知足应用需求,暂时不影响系统性能。
一样也能够用vmstat观察内存状况,重点关注si,so的值
4)i/o性能评估iostat命令
iostat -d 2
Linux 2.6.16.60-0.21-TENCENT-090803 (RS_Server_vip) 04/28/11
Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn
sda 9.48 22.73 41.50 1139188426 2080012464
Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn
sda 0.00 0.00 0.00 0 0
Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn
sda 7.50 0.00 112.00 0 224
对上面每项的输出解释以下:
Blk_read/s表示每秒读取的数据块数。
Blk_wrtn/s表示每秒写入的数据块数。
Blk_read表示读取的全部块数。
Blk_wrtn表示写入的全部块数。
注意:1:能够经过Blk_read/s和Blk_wrtn/s的值对磁盘的读写性能有一个基本的了解,若是Blk_wrtn/s值很大,表示磁盘的写操做很频繁,能够考虑优化磁盘或者优化程序,若是Blk_read/s值很大,表示磁盘直接读取操做不少,能够将读取的数据放入内存中进行操做。
2:对于这两个选项的值没有一个固定的大小,根据系统应用的不一样,会有不一样的值,可是有一个规则仍是能够遵循的:长期的、超大的数据读写,确定是不正常的,这种状况必定会影响系统性能。
5)I/O性能评估sar
sar -d 2 3
Linux 2.6.16.60-0.21-TENCENT-090803 (RS_Server_vip) 04/28/11
21:24:24 DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util
21:24:26 dev8-0 10.40 0.00 324.75 31.24 0.08 7.43 5.52 5.74
21:24:26 DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util
21:24:28 dev8-0 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
21:24:28 DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util
21:24:30 dev8-0 2.99 0.00 31.84 10.67 0.03 11.33 10.00 2.99
Average: DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util
Average: dev8-0 4.48 0.00 119.40 26.67 0.04 8.30 6.52 2.92
须要重点关注的几个参数含义:
await表示平均每次设备I/O操做的等待时间(以毫秒为单位)。
svctm表示平均每次设备I/O操做的服务时间(以毫秒为单位)。
%util表示一秒中有百分之几的时间用于I/O操做。
对以磁盘IO性能,通常有以下评判标准:
注意: 正常状况下svctm应该是小于await值的,而svctm的大小和磁盘性能有关,CPU、内存的负荷也会对svctm值形成影响,过多的请求也会间接的致使svctm值的增长。
await值的大小通常取决与svctm的值和I/O队列长度以及I/O请求模式,若是svctm的值与await很接近,表示几乎没有I/O等待,磁盘性能很好,若是await的值远高于svctm的值,则表示I/O队列等待太长,系统上运行的应用程序将变慢,此时能够经过更换更快的硬盘来解决问题。
%util项的值也是衡量磁盘I/O的一个重要指标,若是%util接近100%,表示磁盘产生的I/O请求太多,I/O系统已经满负荷的在工做,该磁盘可能存在瓶颈。长期下去,势必影响系统的性能,能够经过优化程序或者经过更换更高、更快的磁盘来解决此问题。
6)网络性能netstat,重用的几种方式为:
netstat -s 统计不一样协议否有丢包
netstat -nlp Rev-Q是否有未读取的数据
netstat -antl 全部tcp链接情况
注意:能够经过netstat查看是否timewait过多的状况,致使端口不够用,在短链接服务中且大并发状况下,要不系统的以下两个选项打开,容许端口重用
cat tcp_tw_recycle
1
cat tcp_tw_reuse
7) 网络接收详细状况tcpdump
若是想要获取主机210.27.48.1除了和主机210.27.48.2以外全部主机通讯的ip包,使用命令:
#tcpdump ip host 210.27.48.1 and ! 210.27.48.2
若是想要获取主机210.27.48.1接收或发出的telnet包,使用以下命令:
#sudo tcpdump -i eht1 -Xnns0 tcp port 23 host 210.27.48.1缓存