Nginx状态监控及日志分析

【转载请注明出处】：juejin.im/post/5ed515…

一、Nginx状态监控

Nginx提供了一个内置的状态信息监控页面可用于监控Nginx的总体访问状况，这个功能由ngx_http_stub_status_module模块进行实现。 使用nginx -V 2>&1 | grep -o with-http_stub_status_module命令检测当前Nginx是否有status功能，若是输出ngx_http_stub_status_module则说明是有的，若是没有能够在编译时加上此模块。 默认状况下，status是关闭的，咱们须要开启，并指定uri来访问数据。

server {
    listen 80;
    server_name default_server;
    location /status {
       stub_status on; 
       allow 114.247.125.227;
    }
}
复制代码

allow配置只容许指定的Ip才能访问nginx status功能，去掉就是不限制。 重启Nginx以后，浏览器访问http://{IP}/status查看状态监控信息

• Active connections：当前的客户端活动链接数(包含正在等待的客户端链接),至关于TCP链接状态处于Established和SYN_ACK
• accepts: 已接受的客户端链接总数，即已被worker进程接收的链接
• handled: 已被处理的链接总数
• requests: 客户端的http请求总数
• Reading: 当前正在读取的http请求数（读取到http请求首部）
• Writing: 当前准备响应的链接数（写入到http响应首部）
• Waiting: 当前处于等待的空闲客户端请求数, 等待的时间为Reading和Writing之间的间隔

采集到Nginx数据以后就能够用监控工具给监控起来了。

二、日志分析

Nginx默认的日志格式配置能够在/etc/nginx/nginx.conf中找到

log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for" $request_time $upstream_response_time';

复制代码

打印的日志实例

39.105.66.117 - mp [11/Sep/2019:19:03:01 +0800] "POST /salesplatform-gateway/users HTTP/1.1" 200 575 "-" "Apache-HttpClient/4.5.5 (Java/1.8.0_161)" "-" 0.040 0.040
39.105.66.117 - mp [11/Sep/2019:19:03:08 +0800] "POST /salesplatform-gateway/users HTTP/1.1" 200 575 "-" "Apache-HttpClient/4.5.5 (Java/1.8.0_161)" "-" 0.008 0.008
复制代码

• $remote_addr: 客户端的ip地址
• $remote_user: 用于记录远程客户端的用户名称
• $time_local: 用于记录访问时间和时区
• $request: 用于记录请求的url以及请求方法
• $status: 响应状态码
• $body_bytes_sent: 给客户端发送的文件主体内容字节数
• $http_referer: 能够记录用户是从哪一个连接访问过来的
• $http_user_agent: 用户所使用的浏览器信息
• $http_x_forwarded_for: 能够记录客户端IP，经过代理服务器来记录客户端的ip地址
• $request_time: 指的是从接受用户请求的第一个字节到发送完响应数据的时间，即$request_time包括接收客户端请求数据的时间、后端程序响应的时间、发送响应数据给客户端的时间
• $upstream_response_time: 用于接收来自上游服务器的响应的时间

经常使用分析命令

一、根据访问IP统计UV

awk '{print $1}' paycenteraccess.log | sort -n | uniq | wc -l
复制代码

二、查询访问最频繁的IP(前10)

awk '{print $1}' /var/log/nginx/access.log | sort -n |uniq -c | sort -rn | head -n 10
复制代码

三、查看某一时间段的IP访问量(1-8点)

awk '$4 >="[25/Mar/2020:01:00:00" && $4 <="[25/Mar/2020:08:00:00"' /var/log/nginx/access.log | awk '{print $1}' | sort | uniq -c| sort -nr |wc -l
复制代码

四、查看访问100次以上的IP

awk '{print $1}' /var/log/nginx/access.log | sort -n |uniq -c |awk '{if($1 >100) print $0}'|sort -rn
复制代码

五、查看指定ip访问过的url和访问次数

grep "39.105.67.140" /var/log/nginx/access.log|awk '{print $7}' |sort |uniq -c |sort -n -k 1 -r
复制代码

六、根据访问URL统计PV

cat /var/log/nginx/access.log |awk '{print $7}' |wc -l
复制代码

七、查询访问最频繁的URL(前10)

awk '{print $7}' /var/log/nginx/access.log | sort |uniq -c | sort -rn | head -n 10
复制代码

八、查看访问最频的URL([排除/api/appid])(前10)

grep -v '/api/appid' /var/log/nginx/access.log|awk '{print $7}' | sort |uniq -c | sort -rn | head -n 10
复制代码

九、查看页面访问次数超过100次的页面

cat /var/log/nginx/access.log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less
复制代码

十、查看最近1000条记录，访问量最高的页面

tail -1000 /var/log/nginx/access.log |awk '{print $7}'|sort|uniq -c|sort -nr|less
复制代码

十一、统计每小时的请求数,top10的时间点(精确到小时)

awk '{print $4}' /var/log/nginx/access.log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 10
复制代码

十二、统计每分钟的请求数,top10的时间点(精确到分钟)

awk '{print $4}' /var/log/nginx/access.log |cut -c 14-18|sort|uniq -c|sort -nr|head -n 10
复制代码

1三、统计每秒的请求数,top10的时间点(精确到秒)

awk '{print $4}' /var/log/nginx/access.log |cut -c 14-21|sort|uniq -c|sort -nr|head -n 10
复制代码

1四、查找指定时间段的日志

awk '$4 >="[25/Mar/2020:01:00:00" && $4 <="[25/Mar/2020:08:00:00"' /var/log/nginx/access.log 
复制代码

1五、列出传输时间超过 0.6 秒的url，显示前10条

cat /var/log/nginx/access.log |awk '(substr($NF,2,5) > 0.6){print $4,$7,substr($NF,2,5)}' | awk -F '"' '{print $1,$2,$3}' |sort -k3 -rn | head -10
复制代码

1六、列出/api/appid请求时间超过0.6秒的时间点

cat /var/log/nginx/access.log |awk '(substr($NF,2,5) > 0.6 && $7~/\/api\/appid/){print $4,$7,substr($NF,2,5)}' | awk -F '"' '{print $1,$2,$3}' |sort -k3 -rn | head -10
复制代码

1七、获取前10条最耗时的请求时间、url、耗时

cat /var/log/nginx/access.log |awk '{print $4,$7,substr($NF,2,5)}' | awk -F '"' '{print $1,$2,$3}' | sort -k3 -rn | head -10
复制代码

【转载请注明出处】： juejin.im/post/5ed515…