按照strace官网的描述, strace是一个可用于诊断、调试和教学的Linux用户空间跟踪器。咱们用它来监控用户空间进程和内核的交互,好比系统调用、信号传递、进程状态变动等。linux
strace底层使用内核的ptrace特性来实现其功能。nginx
在运维的平常工做中,故障处理和问题诊断是个主要的内容,也是必备的技能。strace做为一种动态跟踪工具,可以帮助运维高效地定位进程和服务故障。它像是一个侦探,经过系统调用的蛛丝马迹,告诉你异常的真相。编程
运维工程师都是实践派的人,咱们仍是先来个例子吧。bash
咱们从别的机器copy了个叫作some_server的软件包过来,开发说直接启动就行,啥都不用改。但是尝试启动时却报错,根本起不来!网络
启动命令:app
./some_server ../conf/some_server.conf
输出:运维
FATAL: InitLogFile failed iRet: -1! Init error: -1655
为何起不来呢?从日志看,彷佛是初始化日志文件失败,真相到底怎样呢?咱们用strace来看看。socket
strace -tt -f ./some_server ../conf/some_server.conf
输出:函数
咱们注意到,在输出InitLogFile failed错误的前一行,有个open系统调用:工具
23:14:24.448034 open("/usr/local/apps/some_server/log//server_agent.log", O_RDWR|O_CREAT|O_APPEND|O_LARGEFILE, 0666) = -1 ENOENT (No such file or directory)
它尝试打开文件/usr/local/apps/some_server/log//server_agent.log来写(不存在则建立),但是却出错了,返回码是-1, 系统错误号errorno为ENOENT。 查下open系统调用的手册页:
man 2 open
搜索ENOENT这个错误号errno的解释
ENOENT O_CREAT is not set and the named file does not exist. Or, a directory component in pathname does not exist or is a dangling symbolic link.
这里说得比较清楚,由于咱们例子中的open选项指定了O_CREAT选项,这里errno为ENOENT的缘由是日志路径中某个部分不存在或者是一个失效的符号连接。咱们来一级一级看下路径中的哪部分不存在:
ls -l /usr/local/apps/some_server/log ls: cannot access /usr/local/apps/some_server/log: No such file or directory ls -l /usr/local/apps/some_server total 8 drwxr-xr-x 2 root users 4096 May 14 23:13 bin drwxr-xr-x 2 root users 4096 May 14 22:48 conf
原来是log子目录不存在!上层目录都是存在的。手工建立log子目录后,服务就能正常启动了。
回过头来, strace究竟能作什么呢?
它可以打开应用进程的这个黑盒,经过系统调用的线索,告诉你进程大概在干吗。
既然strace是用来跟踪用户空间进程的系统调用和信号的,在进入strace使用的主题以前,咱们的先理解什么是系统调用。
关于系统调用:
按维基百科中的解释,在计算机中,系统调用(英语:system call),又称为系统呼叫,指运行在用户空间的程序向操做系统内核请求须要更高权限运行的服务。
系统调用提供用户程序与操做系统之间的接口。操做系统的进程空间分为用户空间和内核空间:
操做系统内核直接运行在硬件上,提供设备管理、内存管理、任务调度等功能。
用户空间经过API请求内核空间的服务来完成其功能——内核提供给用户空间的这些API, 就是系统调用。
在Linux系统上,应用代码经过glibc库封装的函数,间接使用系统调用。
Linux内核目前有300多个系统调用,详细的列表能够经过syscalls手册页查看。这些系统调用主要分为几类:
文件和设备访问类 好比open/close/read/write/chmod等 进程管理类 fork/clone/execve/exit/getpid等 信号类 signal/sigaction/kill 等 内存管理 brk/mmap/mlock等 进程间通讯IPC shmget/semget * 信号量,共享内存,消息队列等 网络通讯 socket/connect/sendto/sendmsg 等 其余
熟悉Linux系统调用/系统编程,可以让咱们在使用strace时驾轻就熟。不过,对于运维的问题定位来讲,知道strace这个工具,会查系统调用手册,就差很少够了。
想要深刻了解的同窗,建议阅读《Linux系统编程》, 《Unix环境高级编程》等书籍。
咱们回到strace的使用上来。strace有两种运行模式。
一种是经过它启动要跟踪的进程。用法很简单,在本来的命令前加上strace便可。好比咱们要跟踪 "ls -lh /var/log/messages" 这个命令的执行,能够这样:
strace ls -lh /var/log/messages
另一种运行模式,是跟踪已经在运行的进程,在不中断进程执行的状况下,理解它在干吗。 这种状况,给strace传递个-p pid 选项便可。
好比,有个在运行的some_server服务,第一步,查看pid:
pidof some_server 17553
获得其pid 17553而后就能够用strace跟踪其执行:
strace -p 17553
完成跟踪时,按ctrl + C 结束strace便可。
strace有一些选项能够调整其行为,咱们这里介绍下其中几个比较经常使用的,而后经过示例讲解其实际应用效果。
strace经常使用选项:
从一个示例命令来看:
strace -tt -T -v -f -e trace=file -o /data/log/strace.log -s 1024 -p 23489
-tt 在每行输出的前面,显示毫秒级别的时间
-T 显示每次系统调用所花费的时间
-v 对于某些相关调用,把完整的环境变量,文件stat结构等打出来。
-f 跟踪目标进程,以及目标进程建立的全部子进程
-e 控制要跟踪的事件和跟踪行为,好比指定要跟踪的系统调用名称
-o 把strace的输出单独写到指定的文件
-s 当系统调用的某个参数是字符串时,最多输出指定长度的内容,默认是32个字节
-p 指定要跟踪的进程pid, 要同时跟踪多个pid, 重复屡次-p选项便可。
实例:跟踪nginx, 看其启动时都访问了哪些文件
strace -tt -T -f -e trace=file -o /data/log/strace.log -s 1024 ./nginx
部分输出:
输出中,第一列显示的是进程的pid, 接着是毫秒级别的时间,这个是-tt 选项的效果。
每一行的最后一列,显示了该调用所花的时间,是-T选项的结果。
这里的输出只显示和文件访问有关的内容,这是由于咱们经过-e trace=file 选项指定了。
一、定位进程异常退出
问题:机器上有个叫作run.sh的常驻脚本,运行一分钟后会死掉。须要查出死因。
定位:进程还在运行时,经过ps命令获取其pid, 假设咱们获得的pid是24298
strace -o strace.log -tt -p 24298
查看strace.log, 咱们在最后2行看到以下内容:
22:47:42.803937 wait4(-1, <unfinished ...> 22:47:43.228422 +++ killed by SIGKILL +++
这里能够看出,进程是被其余进程用KILL信号杀死的。
实际上,经过分析,咱们发现机器上别的服务有个监控脚本,它监控一个也叫作run.sh的进程,当发现run.sh进程数大于2时,就会把它杀死重启。结果致使咱们这个run.sh脚本被误杀。
进程被杀退出时,strace会输出killed by SIGX(SIGX表明发送给进程的信号)等,那么,进程本身退出时会输出什么呢?
这里有个叫作test_exit的程序,其代码以下:
#include <stdio.h> #include <stdlib.h> int main(int argc, char **argv) { exit(1); }
咱们strace看下它退出时strace上能看到什么痕迹。
strace -tt -e trace=process -f ./test_exit
说明: -e trace=process 表示只跟踪和进程管理相关的系统调用。
输出:
23:07:24.672849 execve("./test_exit", ["./test_exit"], [/* 35 vars */]) = 0 23:07:24.674665 arch_prctl(ARCH_SET_FS, 0x7f1c0eca7740) = 0 23:07:24.675108 exit_group(1) = ? 23:07:24.675259 +++ exited with 1 +++
能够看出,进程本身退出时(调用exit函数,或者从main函数返回), 最终调用的是exit_group系统调用, 而且strace会输出exited with X(X为退出码)。
可能有人会疑惑,代码里面明明调用的是exit, 怎么显示为exit_group?
这是由于这里的exit函数不是系统调用,而是glibc库提供的一个函数,exit函数的调用最终会转化为exit_group系统调用,它会退出当前进程的全部线程。实际上,有一个叫作_exit()的系统调用(注意exit前面的下划线), 线程退出时最终会调用它。
二、定位共享内存异常
有个服务启动时报错:
shmget 267264 30097568: Invalid argument Can not get shm...exit!
错误日志大概告诉咱们是获取共享内存出错,经过strace看下:
strace -tt -f -e trace=ipc ./a_mon_svr ../conf/a_mon_svr.conf
输出:
22:46:36.351798 shmget(0x5feb, 12000, 0666) = 0 22:46:36.351939 shmat(0, 0, 0) = ? Process 21406 attached 22:46:36.355439 shmget(0x41400, 30097568, 0666) = -1 EINVAL (Invalid argument) shmget 267264 30097568: Invalid argument Can not get shm...exit!
这里,咱们经过-e trace=ipc 选项,让strace只跟踪和进程通讯相关的系统调用。
从strace输出,咱们知道是shmget系统调用出错了,errno是EINVAL。一样, 查询下shmget手册页,搜索EINVAL的错误码的说明:
EINVAL A new segment was to be created and size < SHMMIN or size > SHMMAX, or no new segment was to be created, a segment with given key existed, but size is greater than the size of that segment
翻译下,shmget设置EINVAL错误码的缘由为下列之一:
要建立的共享内存段比 SHMMIN小 (通常是1个字节)
要建立的共享内存段比 SHMMAX 大 (内核参数kernel.shmmax配置)
指定key的共享内存段已存在,其大小和调用shmget时传递的值不一样。
从strace输出看,咱们要连的共享内存key 0x41400, 指定的大小是30097568字节,明显与第一、2种状况不匹配。那只剩下第三种状况。使用ipcs看下是否真的是大小不匹配:
ipcs -m | grep 41400 key shmid owner perms bytes nattch status 0x00041400 1015822 root 666 30095516 1
能够看到,已经0x41400这个key已经存在,而且其大小为30095516字节,和咱们调用参数中的30097568不匹配,因而产生了这个错误。
在咱们这个案例里面,致使共享内存大小不一致的缘由,是一组程序中,其中一个编译为32位,另一个编译为64位,代码里面使用了long这个变长int数据类型。
把两个程序都编译为64解决了这个问题。
这里特别说下strace的-e trace选项。
要跟踪某个具体的系统调用,-e trace=xxx便可。但有时候咱们要跟踪一类系统调用,好比全部和文件名有关的调用、全部和内存分配有关的调用。
若是人工输入每个具体的系统调用名称,可能容易遗漏。因而strace提供了几类经常使用的系统调用组合名字。
-e trace=file 跟踪和文件访问相关的调用(参数中有文件名)
-e trace=process 和进程管理相关的调用,好比fork/exec/exit_group
-e trace=network 和网络通讯相关的调用,好比socket/sendto/connect
-e trace=signal 信号发送和处理相关,好比kill/sigaction
-e trace=desc 和文件描述符相关,好比write/read/select/epoll等
-e trace=ipc 进程见同窗相关,好比shmget等
绝大多数状况,咱们使用上面的组合名字就够了。实在须要跟踪具体的系统调用时,可能须要注意C库实现的差别。
好比咱们知道建立进程使用的是fork系统调用,但在glibc里面,fork的调用实际上映射到了更底层的clone系统调用。使用strace时,得指定-e trace=clone, 指定-e trace=fork什么也匹配不上。
三、 性能分析
假若有个需求,统计Linux 4.5.4 版本内核中的代码行数(包含汇编和C代码)。这里提供两个Shell脚本实现:
poor_script.sh:
!/bin/bash
total_line=0
while read filename; do
line=$(wc -l $filename | awk ‘{print $1}’)
(( total_line += line ))
done < <( find linux-4.5.4 -type f ( -iname ‘.c’ -o -iname ‘.h’ -o -iname ‘*.S’ ) )
echo “total line: $total_line”
good_script.sh:
!/bin/bash
find linux-4.5.4 -type f ( -iname ‘.c’ -o -iname ‘.h’ -o -iname ‘*.S’ ) -print0 \
| wc -l —files0-from - | tail -n 1
两段代码实现的目的是同样的。 咱们经过strace的-c选项来分别统计两种版本的系统调用状况和其所花的时间(使用-f同时统计子进程的状况)
从两个输出能够看出,good_script.sh 只须要2秒就能够获得结果:19613114行。它大部分的调用(calls)开销是文件操做(read/open/write/close)等,统计代码行数原本就是干这些事情。
而poor_script.sh完成一样的任务则花了539秒。它大部分的调用开销都在进程和内存管理上(wait4/mmap/getpid…)。
实际上,从两个图中clone系统调用的次数,咱们能够看出good_script.sh只须要启动3个进程,而poor_script.sh完成整个任务竟然启动了126335个进程!
而进程建立和销毁的代价是至关高的,性能不差才怪。
当发现进程或服务异常时,咱们能够经过strace来跟踪其系统调用,“看看它在干啥”,进而找到异常的缘由。熟悉经常使用系统调用,可以更好地理解和使用strace。
固然,万能的strace也不是真正的万能。当目标进程卡死在用户态时,strace就没有输出了。
这个时候咱们须要其余的跟踪手段,好比gdb/perf/SystemTap等。
备注:
一、perf缘由kernel支持
二、ftrace kernel支持可编程
三、systemtap 功能强大,RedHat系统支持,对用户态,内核态逻辑都能探查,使用范围更广