java性能调优实战

  在项目压测过程当中,发现系统占用,上下文切换很是频繁,在此记录下调优过程,但愿对后来人有所帮助。java

测试方法:模拟客户端实际操做,向服务器高并发发送数据,查看服务器的负载状况。linux

服务器基本配置以下服务器

 

1,基本性能监控工具 top

1) top 使用方式1   top

 

经过top命令,java应用负载极高,系统调用极高(系统调用43% ,而用户调用只有35%),cpu的大部分资源都被系统消耗了,说明系统某部分存在极不合理的地方。网络

2) top 使用2;输入top后 按1,查看cpu各个核的使用状况

 

这个图说明了 cpu使用分布状况还不错,即程序线程池配置目前没有出现问题,若是出现单个cpu,或者几个cpu 100%,其余空闲的状况,说明线程分配不合理,没法充分利用cpu多核能力。多线程

3) top 使用 3,查看究竟是什么线程在忙碌top -Hp 25994

 

若是你仔细观察就会发现一个有趣的现象,那就是好多线程id就像新出的人民币同样,是连着号的,通常来讲,他们属于一组线程。并发

找到忙碌的线程,那么如何才能映射到java应用中咱们本身定义的线程呢?步骤以下jvm

a. jstack 25994 >1  java线程dump出来高并发

b. 将上图pid列的数字转换成16进制 好比26157   16进制为0x662d工具

c. more 1 。而后搜索662d性能

 

找到了,经过线程名字,能够得出,当前网络层目前比较忙碌。

注意:给线程起一个好名字很是重要,不然你刀磨的再快,命令玩儿的再溜,依然砍不到人。

2vmstat命令 执行vmstat 1 20查看大约20次数据

 

从这个图上,咱们可以看出至少三个方面的问题

1) 内核调用 达到50%左右,很是高

2) 上下文切换过于频繁,每秒达90000次左右

3) 调度队列线程积压  此刻的系统已经很是慢了。

3pidstat命令 

查看上下文切换(pidstat 命令属于sysstat组件的内容,须要自行安装

pidstat -wt -p 25994  1 10 查看10

 

第一列为线程id

第二列为主动上下文切换

第三列为被动上下文切换

通常来讲,咱们认为,线程被动上下文切换是正常的,而主动切换多是发生了io、锁等状况。对于如此频繁的上下文切换,咱们须要多dump几回线程,看看如上的线程到底在作什么,dump方法以及操做系统线程id如何映射到java线程,参见上文top -Hp命令。

查看 java线程dump文件,获得以下有效数据

 

应用程序频繁调用 netty writeAndFlush 方法,从调用栈中咱们看到:这个方法其实是执行了一个系统调用,用于唤醒selectable(多重复用)阻塞线程。

 

netty的读写线程在频繁的与操做系统交互写数据。

综上,咱们大概获得了两个结论:

1,应用频繁的调用nettywriteAndFlush方法,这可能会产生大量的系统调用.

2netty频繁的与操做系统交互进行io操做。上文说过,io操做可能会致使线程主动切换上下文。

因而乎,两个优化思路也呼之欲出,若是writeAndFlush方法会产出大量的中断,那么netty还有没有提供其余的方法?第二个问题,io操做太过频繁,那么可不能够把消息稍微合并一下以减小io的频繁度呢?(固然这种思路须要结合实际项目,咱们项目的特色是小包特别频繁)。沿着这两个思路,从新查看了netty相关部分的源码,幸运的是找到了突破口,

 

 

这两个方法天生就是一块儿用的,write方法能够先把数据记到内存中,等随后的flush操做把内存中全部的数据一次刷新到操做系统中。这种操做彻底符合预期,即避免了系统调用,用完成了数据的 打包,美妙的是这种打包对应用而言是透明的。

调用改进策略

对于消息的发送,咱们封装了统一接口,以下

 

这个接口被大量调用,分布于应用的各个“角落”,改变每个调用显然是不可能的。而且,应用层是没法明确知道在什么时候让消息“等一会”再统一发送出去的。换句话说,就是在不改变现有调用的状况下,将这种优化“神不知鬼不觉”的添加进去。根据咱们的线程分配策略,个人解决思路是在一次线程调用结束后统一发送本次调用全部消息。即将须要发送消息的Channel先存在ThreadLocal中,而后,统一操做代码片断以下

① 按线程存储 channel集合

 

② 设置开关,有些线程不须要作合并

 

③ 发消息时,只须要把开启这个功能的channel存起来便可。

 

④ 消息统一发送

 

有效代码不超过20行,而后咱们看一下结果vmstat 1

 

为方便观察结果,我把上图贴下来一块儿对比

 

系统调用,上下文切换,调用队列三项指标都有显著的改善,cpu使用率提高了20%左右(观察上图的id列,下图的空闲百分比为10%左右,而上图在30%左右)。

总结:操做系统自身提供的工具,有着无与伦比的威力,再结合jdk提供的几个经常使用命令,如jstack(线程)、jmap(内存)、jstat(垃圾回收)等,可以帮助快速帮助咱们定位问题。通常来讲,操做系统监控命令可以帮助咱们肯定,应用到底有没有问题(诸如,cpu使用率、内存占用状况、网络、磁盘、调度队列等等),jdk工具可以进一步帮助咱们定位问题出如今哪(线程分配、jvm堆大小配置、等等)。

相关文章
相关标签/搜索