Apache日志统计举例
加些来了解一下如何统计Apache的访问日志，一般可以用tail命令来实时查看日志文件变化，但是各种的应用系统中的日志会非常复杂，一堆长度超过你浏览极限的日志出现在你眼前时，你会觉得非常无奈，怎么办呢？这时可以用grep、sed、awk和sort等筛选工具帮助你解决这个问题。下面总结了几个常见分析方法。
（1）查看IP（$1代表IP）
#cataccess_log | awk '{print $1}'
（2）对IP排序
#cataccess_log | awk '{print $1}'|sort
（3）打印每一重复行出现的次数，“uniq -c”表示标记出重复数量。
#cataccess_log | awk '{print $1}'|sort|uniq -c
（4）排序并统计行数
#cataccess_log | awk '{print $1}'|sort|uniq -c|sort -rn|wc -l
（5）显示访问前10位的IP地址，便于查找攻击源
#cat access_log|awk '{print $1}'|sort|uniq-c|sort -nr|head -10
注意awk '{print$1'，它表示取日志的第一段，如果换成别的日志，其IP地址在第3段那么就要改变相应数值。
（6）显示指定时间以后的日志（$4代表时间）
#cat access_log |awk'$4>="[23/Jul/2012:01:00:01"' access_log
推荐大家在排错时，同时打开多个终端，比如在一个窗口中显示错误日志，在另一个窗口中显示访问日志,这样就能够随时获知网站上发生的情况。
（7）找出访问量最大的IP,并封掉(对排错很有帮助)
#cat access_log |awk '{print $1}'|sort|uniq -c|sort -nr |more
9999192.168.150.179
11 192.168.150.1
#iptables -I INPUT -s 192.168.150.179 -j DROP
#iptables -I INPUT -s 192.168.150.0/24 -j DROP
如果将上面的Shell做以下变形就可以得出访问量TOP 10
#cat access_log |awk '{print $1}'|sort|uniq -c|sort -nr |head -10
(8)找出Apache日志中，下载最多的几个exe文件（下载类网站常用,这里以.exe扩展名举例）
[root@localhost httpd]# cataccess_log |awk '($7 ~/.exe/){print $10 "" $1 ""$4""$7}' |sort -n |uniq -c |sort -nr |head -10
2 – 192.168.150.1[25/Jul/2012:05:46:05/test.exe
1 -192.168.150.152[25/Jul/2012:05:46:47/test.exe
使用如下命令：
#cat access_log |awk
1 | 1` |
($10 >10000000&& $7 ~/.exe/) {print $7}
1 | 1` |
|sort –n|uniq –c|sort –nr|head -10
这条命令经过增加一个>10000000的条件判断内容就可以显示出大于10MB的exe文件，并统计对应文件发生次数，这条命令对于网站日常分析是非常有帮助的，大家可以灵活使用。
(12)用goaccess工具分析
GoAccess是一款开源、实时，运行在命令行终端下的web日志分析工具。该工具提供快速、多样的HTTP状态统计，如果你觉得以上管道、脚本麻烦的话，请用这个工具试试吧。
Debian Linux安装：
#ape-get install goaccess
#goaccess -f /var/log/apache2/access.log
运行效果如下：
轻按下箭头，我们看看goaccess给我们呈现更多的统计数据吧，细心的读者发现BW N /A 带宽怎么没统计出来？下面我们在加一个 -b 参数试试吧，如下图所示。
注意：以上工具和技巧同样适用于Nginx、Squid的访问日志。
