前几天写了篇文章是用AWK 来过滤NGINX 日志里面的特定值,可是光过滤出来了不行,还得要用啊,开发同事给我提出了新要求。让我统计 9:30~13:30 和13:30~17:30的这两个时间段每一个小时的动态请求数,还有上面两个时间段里的 “
action=xxxxx”这个值的
种类和每种
action的数量~~~

,要求还真很多!
提及来复杂其实作起来挺简单的,只要理清思路就行了!让咱们先来解决第一个问题,每小时的动态请求数,我再看下NGINX日志的格式
118.203.20.3 - - [16/Jan/2010:05:00:01 +0800] "POST /design/game.php HTTP/1.1" "check=085af328d69bd499fe47c4f484ea5dfb&cid=0&cuid=419884&oid=4×tamp=1263589204&action=researchOre" 200 277 "http://www.ime.com/design/flash/main.swf?v=430/`DYNAMIC`/1" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1) ; .NET CLR 2.0.50727)" -
由于咱们的动态请求都是经过php来完成的,因此我只要过滤出包含
.php的行就能够了,时间段的选取能够交给
SED 来作,数量统计用
uniq -c ,好了开工吧!
sed -n "/2010:13:30:00/,/2010:17:30:00/"p access_2010011605.log | awk -F: '/'.'php/{print $2}' |uniq -c
168576 13
301975 14
285616 15
299248 16
154377 17
由于日志比较大,因此时间稍微长了点,不过目的达到了,至于9:30~13:30直接改上面的时间就行了,在这里感谢下 给我提供帮助的三门同窗;
下面咱们再看看
09:30~13:30这段时间的 每种 action 的总和。
格式过滤出action 的方法上一篇文章《
用AWK来过滤nginx日志中的特定值》已经写好了,生成文件的格式为
202.113.30.144 25/Jan/2010:13:42:07 cuid=181188 action=compound
124.227.66.162 25/Jan/2010:13:42:07 cuid=355287 action=plantInfo
124.240.39.49 25/Jan/2010:13:42:07 action=researchLayer cuid=496990
121.236.118.126 25/Jan/2010:13:42:07 cuid=509590 action=oreInfo
咱们就根据这个格式来统计,上面我已经生成好了这个文件名字叫 action.new
sed -n "/2010:09:30:00/,/2010:13:30:00/"p action.new |awk '{if($3~/^action/){print $3} else if($4~/^action/){print $4}}' |sort |uniq -c |sort -nr
533271 action=plInfo
132742 action=FriendPet
101258 action=Info
98091 action=oInfo
84749 action=wInfo
71751 action=Result
71558 action=Quest
63471 action=cQuest
60886 action=qInfo
58112 action=bag
.....略
在这里感谢下小I 同窗的帮助好了,把这几个结果交给开发的同事让他们去分析了。呵呵,但愿这篇文章对朋友们有帮助~~~ O(∩_∩)O~