论坛 › Web技术 › 搞了一个小说小偷站 百度蜘蛛貌似很给力啊

metalx 发表于 2010-11-9 21:23:49

放出来吧

小菜鸟 发表于 2010-11-9 22:46:58

原帖由 WAKAKA 于 2010-11-9 17:47 发表
back.gif

求蜘蛛日志
003.gif

aru 发表于 2010-11-9 23:36:47

只是简单查爬虫的次数可以自己搞一下


s1:/var/log/nginx# grep -c "Sogou web spider" xxxx.com.access.log.1
7713
s1:/var/log/nginx# grep -c "Baiduspider+" xxxx.com.access.log.1
18172
s1:/var/log/nginx#
s1:/var/log/nginx# grep -i googlebot -c xxxx.com.access.log.1
1348

我的一个新小说站，爬虫也是很给力的，就是没有人气...

kingnib 发表于 2010-11-10 08:57:06

求源码啊

foass 发表于 2010-12-2 13:30:45

求源码

查看完整版本: 搞了一个小说小偷站 百度蜘蛛貌似很给力啊