1. 62源码网首页
  2. 站长学院
  3. 网站优化

7种百度蜘蛛程序你了解多少

是如何爬去网页内容的呢?我们网页中的视频,文字,图片,是靠什么来抓取的呢?带这个疑问让我们来了解下百度蜘蛛Baiduspider

百度是如何收录到那么多网页的呢?在互联网上有数以亿计的网页的百度就是靠Baiduspider – 百度蜘蛛程序。夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存,有另外的程序进行分析然后选择性放出视频,文字,图片,我们从百度里搜索时能看到的都是百度蜘蛛抓取放出的东西,做的人经常会研究网站日志,我们在查看日志的时候会发现好多百度蜘蛛的足迹-百度蛛蛛爬行状态码,如

(2010-12-28 08:13:46 W3SVC5302241 202.109.143.138 GET /book/story.php id=22 80 – 220.181.108.82

Baiduspider+(+http://www.baidu.com/search/spider.htm) 200 0 3 2335)这是百度抓取内页时的程序。

这有个前提就是robots文件你没有设置禁止百度蜘蛛

百度抓取每个网页内容都会有不同的蜘蛛程序如果我们想禁止百度莫个蜘蛛来抓取我们的内容可以用robots文件中的user-agent进行设置。

如下

百度产品名称 对应user-agent

网页搜索 Baiduspider

无线搜索 Baiduspider-mobile

图片搜索 Baiduspider-image

视频搜索 Baiduspider-video

新闻搜索 Baiduspider-news

百度搜藏 Baiduspider-favo

百度联盟 Baiduspider-cpro

有些朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,其实这就是百度联盟蜘蛛,是作的时候才有。–用以百度联盟程序匹配相应的广告。

想了接的更多,可要用心了,查看自己的网站日志你会有新的发现,了解百度程序对你的也是很有帮助的啊。

本资源由62源码网发布,转载请注明出处:https://www.62ym.com/10845.html

本站发布的内容若侵犯到您的权益,请联系我们删除,我们将及时处理!

=========================================

本站大部分源码资源收集于网络,不保证其完整性以及安全性,请下载后自行测试。

本站资源仅供学习与参考,请勿用于非法用途。

发表评论

登录后才能评论

联系我们

请加为好友在咨询!

在线咨询:点击这里给我发消息

邮件:mail@62ym.com

工作时间:周一至周五

9:00-20:30,节假日休息

QR code