百度robots编写规则精选.pdfVIP

火爆天王 专业小说站 / 百度认可的Robots 编写规则 一、robots.txt 文件的格式 robots.txt文件包含一条或更多的记录，这些记录通过空行分开 （以CR,CR/NL, or NL 作为结束符），每一条记录的格式如下所 示： field:optional spacevalueoptional space 在该文件中可以使用#进行注解，具体使用方法和UNIX 中的惯 例一样。该文件中的记录通常以一行或多行User-agent 开始，后 面加上若干Disallow 和Allow 行,详细情况如下： 1、User-agent: 该项的值用于描述搜索引擎 robot 的名字。在robots.txt文 件中，如果有多条 User-agent 记录说明有多个 robot 会受 到 robots.txt 的限制，对该文件来说，至少要有一条User-agent 记 录。如果该项的值设为* ，则对任何robot 均有效，在robots.txt 文件中，User-agent:*这样的记录只能有一条。如果在robots.txt 文件中，加入User- agent:SomeBot和若干Disallow 、Allow 行， 那么名为SomeBot 只受到User-agent:SomeBot后面的 Disallow 和Allow 行的限制。 2 、Disallow: 本文由火爆天王整理分享，转载请注明： / 谢谢！ 火爆天王 专业小说站 / 该项的值用于描述不希望被访问的一组URL ，这个值可以是 一条完整的路径，也可以是路径的非空前缀，以Disallow 项的值 开头的URL 不会被 robot 访问。例如Disallow:/help 禁止robot 访 问 /help.html 、 /helpabc.html 、 /help /index.html ， 而 Disallow:/help/则允许robot 访问/help.html、/helpabc.html ，不 能访问 /help/index.html。Disallow:说明允许 robot 访问该网站 的所有url ，在/robots.txt文件中，至少要有一 条Disallow 记录。 如果/robots.txt 不存在或者为空文件，则对于所有的搜索引擎 robot ，该网站都是开放的。 3、Allow: 该项的值用于描述希望被访问的一组URL ，与Disallow 项相 似，这个值可以是一条完整的路径，也可以是路径的前缀，以 Allow 项的值开头的 URL 是允许 robot 访问的。例如 Allow:/hibaidu允许robot 访问/hibaidu.htm、/hibaiducom.html、 /hibaidu/com.html。一个网站的所有URL 默认是Allow 的，所以 Allow 通常与Disallow 搭配使用，实现允许访问一部分网页 同时 禁止访问其它所有URL 的功能。 4、使用*and$ ： Baiduspider 支持使用通配符*和$来模糊匹配url 。 $ 匹配行结束符。 本文由火爆天王整理分享，转载请注明： / 谢谢！ 火爆天王 专业小说站 / * 匹配0 或多个任意字符。 注：我们会严格遵守robots 的相关协议，请注意区分您不想被抓 取或收录的目录的大小写，我们会对robots 中所写的文件和您不 想被抓取和收录的目录做精确匹配，否则robots 协议无法生效。 二、 robots.txt 文件用法举例 例1. 禁止所有搜索引擎访问网站的任何部分 User-agent: * Disallow: / 例2. 允许所有的robot 访问 (或者也可以建一个空文件 /robots.txt) User-agent: * Allow: / 例3. 仅禁止Baiduspider 访问您的网站 User-agent: Baiduspider Disallow: / 例4. 仅允许Baiduspider 访问您的网站 User-agent: Ba