搞了一个小说小偷站百度蜘蛛貌似很给力啊

metalx · 发表于 2010-11-9 21:23:49

放出来吧

小菜鸟 · 发表于 2010-11-9 22:46:58

原帖由 WAKAKA 于 2010-11-9 17:47 发表

求蜘蛛日志

aru · 发表于 2010-11-9 23:36:47

只是简单查爬虫的次数可以自己搞一下

s1:/var/log/nginx# grep -c "Sogou web spider" xxxx.com.access.log.1
7713
s1:/var/log/nginx# grep -c "Baiduspider+" xxxx.com.access.log.1
18172
s1:/var/log/nginx#
s1:/var/log/nginx# grep -i googlebot -c xxxx.com.access.log.1
1348

我的一个新小说站，爬虫也是很给力的，就是没有人气...

kingnib · 发表于 2010-11-10 08:57:06

求源码啊

foass · 发表于 2010-12-2 13:30:45

求源码

		自动登录	找回密码
密码			立即注册

搞了一个小说小偷站 百度蜘蛛貌似很给力啊

搞了一个小说小偷站百度蜘蛛貌似很给力啊