我的网站是做给蜘蛛看的

gdtv · 发表于 2009-8-15 14:19:35

来访者全部是蜘蛛，没有一个真人

zyypp · 发表于 2009-8-15 15:07:28

呵呵我在查看 web 日志时得到的IP 几乎也都是些爬虫不过我只放了一个页面嘿嘿

cpuer · 发表于 2009-8-16 20:01:58

Google和sougou的蜘蛛是最会爬的，小心服务器被爬挂。

fanslive · 发表于 2009-8-18 08:45:24

我的蜘蛛访问通常一天要耗费流量至少5G。
我一个月到底流量能用光，蜘蛛太强大了！

phpwinder · 发表于 2009-8-18 09:58:29

是啊，我的HM主机都被爬死过。

cpuer · 发表于 2009-8-18 10:24:45

有些搜索引擎蜘蛛很厉害，但是不来流量的话可以屏蔽掉。

cpuer · 发表于 2009-8-18 10:25:06

原帖由 fanslive 于 2009-8-18 08:45 发表
我的蜘蛛访问通常一天要耗费流量至少5G。
我一个月到底流量能用光，蜘蛛太强大了！

我知道你是强人

微笑着吃饭 · 发表于 2009-8-21 20:10:04

robot.txt

cpuer · 发表于 2009-8-22 11:33:35

还得靠搜索引擎来些流量呢

zyypp · 发表于 2009-8-22 11:43:58

有些爬虫不守规矩无视robot.txt的
对付这些不守规矩爬虫最好的方法就是屏蔽他嘿嘿

		自动登录	找回密码
密码			注册

回复 3# 的帖子