系统性能故障分析-中断

时间 2020-10-15

原文原文链接

中断是一种异步事件处理机制，能够提升系统的并发处理能力。中断处理程序会打断其余进程的运行，因此为了减小对正常进程调度的影响，中断处理程序须要尽快的运行。若是中断自己要作的事很少，那么处理起来影响不大，若中断处理的事情较多，中断处理程序就可能须要运行较长时间。特别要注意的是，当中断处理程序在响应中断时，还会临时关闭中断。这就会致使前一个中断处理完毕以前，其余中断都不会响应，也就是中断可能会丢失。所以为了解决中断处理程序执行多长和中断丢失的问题，Linux将中断分为两个阶段：上半部和下半部网络

上半部用来快速处理中断，他在中断禁止模式下运行，主要处理跟硬件紧密相关或时间敏感的工做并发

下半部用来延迟处理上半部为完成的工做，一般之内核线程的方式运行异步

举个网卡接受数据包的例子：当网卡接受到数据包后，会经过硬件中断的方式，告诉内核有新的数据到了，这时内核就应该调用中断处理程序来响应，那上半部和下半部分别负责哪些工做?ide

对上半部来讲，既然是快速处理，其实就是把网卡的数据读到内存中，而后更新一下硬件寄存器的状态(表示数据已读完)，最后再发一个软中断的信号，通知下半部作进一步的处理；函数

下半部被软中断信号唤醒后，须要从内存中找到网络数据，在按照网络协议栈，对数据进行逐层解析和处理，直到把它送给应用程序。性能

这两个阶段能够这样理解:spa

上半部直接处理硬件请求，也就是咱们常说的硬中断，特色是快速执行；命令行

下半部则是由内核触发，也就是咱们常说的软中断，特色是延迟执行线程

实际上上半部会打断CPU正在执行的任务，而后当即处理中断处理程序。而下半部之内核线程的方式执行，而且每一个CPU对应一个软中断内核线程，名字为ksoftirqd/CPU编号，好比说，1号CPU对应的软中断内核线程为ksoftirqd/1。进程

查看方法：

andy:~ # ps aux|grep softirq

root 3 0.0 0.0 0 0 ? S 06:42 0:00 [ksoftirqd/0]

root 13 0.0 0.0 0 0 ? S 06:42 0:00 [ksoftirqd/1]

root 18 0.0 0.0 0 0 ? S 06:42 0:00 [ksoftirqd/2]

root 23 0.0 0.0 0 0 ? S 06:42 0:00 [ksoftirqd/3]

root 2659 0.0 0.0 9288 1620 pts/0 S+ 07:06 0:00 grep --color=auto softirq

注意：这些线程的名字外面都有中括号，这说明 ps 没法获取它们的命令行参数（cmline）。通常来讲，ps 的输出中，名字括在中括号里的，通常都是内核线程。

查看软中断及内核线程

/proc/softirqs 提供了软中断的运行状况

/proc/interrupts 提供了硬中断的运行状况

$ cat /proc/softirqs #提供了软中断的运行状况：类型 + 中断次数

CPU0 CPU1

HI: 2 0

TIMER: 13086 12592

NET_TX: 2 29

NET_RX: 1610 1803

BLOCK: 8584 7866

IRQ_POLL: 0 0

TASKLET: 24 59

SCHED: 10279 10218

HRTIMER: 0 0

RCU: 14262 13818

查看出现128个核数据的处理方法

watch -d "/bin/cat /proc/softirqs | /usr/bin/awk 'NR == 1{printf \"%10s %7s %7s %7s %7s\n\",\" \",\$1,\$2,\$3,\$4}; NR > 1{printf \"%10s %7s %7s %7s %7s\n\",\$1,\$2,\$3,\$4,\$5}'"

Every 2.0s: /bin/cat /proc/softirqs | /usr/bin/awk 'NR == 1{printf "%10s %7s %7s %7s... andy: Thu May 28 22:08:58 2020

CPU0 CPU1 CPU2 CPU3

HI: 0 0 1 0

TIMER: 28917 27206 36138 32919

NET_TX: 530 554 2 2

NET_RX: 162 5801 61 11956

BLOCK: 2692 14024 7291 5065

IRQ_POLL: 0 0 0 0

TASKLET: 31 0 20 41

SCHED: 27556 23561 33093 29967

HRTIMER: 0 0 0 0

RCU: 37494 34880 36088 3520

要特别注意如下几点:
第1、要注意软中断的类型，软中断包括了10个类别，分别对应不一样的工做类型，好比 NET_RX 表示网络接收中断，而 NET_TX 表示网络发送中断

第2、要注意同一种软中断在不一样 CPU 上的分布状况，也就是同一行的内容。正常状况下，同一种中断在不一样 CPU 上的累积次数应该差很少.好比NET_RX在CPU0和CPU1上的中断次数应该在同一个数量级。

不过TASKLET 在不一样CPU上的分布并不均匀。TASKLET 是最经常使用的软中断实现机制，每一个 TASKLET 只运行一次就会结束，而且只在调用它的函数所在的 CPU 上运行。

所以，使用 TASKLET 特别简便，固然也会存在一些问题，好比说因为只在一个CPU上运行致使的调度不均衡，再好比由于不能在多个 CPU 上并行运行带来了性能限制。

使用sar命令并添加 -n DEV参数显示网络收发的报告

root@andy:~# sar -n DEV 1 2

Linux 4.18.0-12-generic (andy) 05/28/20 _x86_64_ (4 CPU)

22:12:58 IFACE rxpck/s txpck/s rxkB/s txkB/s rxcmp/s txcmp/s rxmcst/s %ifutil

22:12:59 ens39 1.00 0.00 0.09 0.00 0.00 0.00 0.00 0.00

22:12:59 ens38 1.00 0.00 0.09 0.00 0.00 0.00 0.00 0.00

22:12:59 lo 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00

22:12:59 IFACE rxpck/s txpck/s rxkB/s txkB/s rxcmp/s txcmp/s rxmcst/s %ifutil

22:13:00 ens39 1.00 0.00 0.09 0.00 0.00 0.00 0.00 0.00

22:13:00 ens38 2.00 1.00 0.15 0.85 0.00 0.00 0.00 0.00

22:13:00 lo 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00

Average: IFACE rxpck/s txpck/s rxkB/s txkB/s rxcmp/s txcmp/s rxmcst/s %ifutil

Average: ens39 1.00 0.00 0.09 0.00 0.00 0.00 0.00 0.00

Average: ens38 1.50 0.50 0.12 0.42 0.00 0.00 0.00 0.00

Average: lo 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00

从左向右分别为：

第一列：表示报告的时间

第二列：IFACE表示网卡

第3、四列：rxpck/s 和txpck/s分别表示每秒接受、发送的网络数据帧，也就是PPS。

第5、六列：rxkB/s 和txkB/s分别表示每秒接受、发送的千字节数，也就是BPS。