常见搜索引擎蜘蛛大全

       百度 baidu----Baiduspider

　　http://www.baidu/search/spider.htm

　　谷歌 google----Googlebot

　　http://www.google/bot.html 中文版请打开以下页面

　　http://www.google/support/webmasters/bin/topic.py?topic=8843

　　雅虎 yahoo----Yahoo

　　http://misc.yahoo/help.html 打开后跳转到以下页面

　　http://help.yahoo/property.html?product=websearch

　　有道 yodao----YodaoBot

　　http://www.yodao/help/webmaster/spider/

　　搜搜 soso----Sosospider/Sosoimagespider(网页蜘蛛/图片蜘蛛)

　　http://help.soso/webspider.htm

　　http://help.soso/soso-image-spider.htm

　　搜狗 sogou----sogou

　　http://www.sogou/docs/help/webmasters.htm#07

　　微软 msn----msnbot

　　http://search.msn/msnbot.htm 打开后跳转到以下页面

　　http://help.live/help.aspx?mkt=zh-cn&project=wl_webmasters

　　以下是几只收获(抓取页面)不劳动(不来流量)的蜘蛛 可以考虑禁了它们爬行 省空间流量

　　国外搜索引擎

　　gigablast----Gigabot

　　http://www.gigablast/spider.html

　　国外搜索引擎

　　webalta----WebAlta

　　http://www.webalta/ru/about_webmaster.html

　　国内的一个实验室的

　　apex.sjtu.edu