微西风博客

当前位置:网站首页 / 互联网丨IT文摘 / 正文

通过robots.txt文件来提高网站的抓取效率

  robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol),网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。Robots协议的本质是网站和搜索引擎爬虫的沟通方式,用来指导搜索引擎更好地抓取网站内容。

  百度官方是推荐所有的网站都使用robots文件,以便更好地利用蜘蛛的抓取。其实robots不仅仅是告诉搜索引擎哪些不能抓取,更是网站优化的重要工具之一。

robots文件实际上就是一个txt文件。其基本的写法如下:


User-agent: * 这里的*代表的所有的搜索引擎种类,*是一个通配符

 

Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录 

 

Disallow: /require/ 这里定义是禁止爬寻require目录下面的目录 

 

Disallow: /ABC/ 这里定义是禁止爬寻ABC目录下面的目录 

 

Disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL(包含子目录)。 

Disallow: /*?* 禁止访问网站中所有的动态页面 

 

Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片 

 

Disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。 

 

Allow: /cgi-bin/ 这里定义是允许爬寻cgi-bin目录下面的目录 

 

Allow: /tmp 这里定义是允许爬寻tmp的整个目录 

 

Allow: .htm$ 仅允许访问以".htm"为后缀的URL。 

 

Allow: .gif$ 允许抓取网页和gif格式图片


  对于静态网站来说,我们可以利用Disallow: /*?*来禁止动态页面抓取。但对于动态网站来说,就不能简单地这样做了。不过对于动态网站的站长来说,也无需过于担心,搜索引擎现在可以正常地抓取动态页面。那么在写的时候,就要注意了,我们可以具体到搜索文件的名称来写。比如你的站是search.asp?后面一大串,那么可以这样写:

Disallow: /search.asp?*

这样就可以屏蔽搜索结果页面了,写好了可以到百度站长平台检测robots一下,看看有没有错误!可以输入网址检测一下,是不是正常生效了。


推荐阅读

文章标签: IT段子 建站技巧

版权声明: 本文除特别说明外均由原创

本文链接: http://www.weixifeng.com/post/171.html,尊重共享,欢迎转载,请自觉添加本文链接,谢谢!

分享本文:

Hello!看完文章有何感想呢?
  • 无聊

    0

  • 流汗

    0

  • 嘿嘿

    0

  • 支持

    0

  • 疑问

    0

呃 本文暂时没人评论 来添加一个吧

发表评论*(使用右侧的多说进行评论,外链是无Nofollow的哦!)

必填

选填

选填

◎请勿使用“IE模式”或者“IE浏览器”进行二次回复。上一篇  返回首页  下一篇

Top