使用robots.txt需要注意的几点地方

　　1、指令区分大小写，忽略未知指令，下图是本博客的robots.txt文件在Google管理员工具里的测试结果;

　　好像还是不支持中文等非英文字符，如需添加中文地址指令，请先转码(UTF-8和GBK会有不同的转码结果)。

　　如果想第一时间知道自己写的robots.txt是否规范，可以用Google管理员工具的“像 Googlebot 一样抓取”功能。捉取后，点击“成功”那个链接进去，就可以看到Google眼中的robots.txt了。

　　2、每一行代表一个指令，空白和隔行会被忽略;

　　3、“#”号后的字符参数会被忽略;

　　4、有独立User-agent的规则，会排除在通配“*”User agent的规则之外;

　　5、可以写入sitemap文件的链接，方便搜索引擎蜘蛛爬行整站内容。

　　6、尽量少用Allow指令，因为不同的搜索引擎对不同位置的Allow指令会有不同看待。

　　想了解更多关于robots.txt的“标准化”说明，可以查看robots.txt官网和Google关于robots.txt的说明页。

　　转入正题。因为Wordpress建站设置不同的固定链接(或者安装不同的插件)，在写指令的时候，相应的地址会不同。本博客固定链接设置为：/a/%post_id%.html，供参考。

　　下面开始Wordpress的robots.txt优化之旅，同时请下载本博客的robots.txt边看边学优化。

　　User-agent： *

　　一般博客的robots.txt指令设置都是面对所有spider程序，用通配符“*”即可。如果有独立User-agent的指令规则，尽量放在通配“*”User agent规则的上方。

　　Disallow： /wp-admin/

　　Disallow： /wp-content/

　　Disallow： /wp-includes/

　　屏蔽spider捉取程序文件，同时也节约了搜索引擎蜘蛛资源。

　　Disallow： /*/trackback

　　每个默认的文章页面代码里，都有一段trackback的链接，如果不屏蔽让蜘蛛去捉取，网站会出现重复页面内容问题。

　　Disallow： /feed

　　Disallow： /*/feed

　　Disallow： /comments/feed

　　头部代码里的feed链接主要是提示浏览器用户可以订阅本站，而一般的站点都有RSS输出和网站地图，故屏蔽搜索引擎捉取这些链接，节约蜘蛛资源。

　　Disallow： /?s=*

　　Disallow： /*/?s=*

　　这个就不用解释了，屏蔽捉取站内搜索结果。站内没出现这些链接不代表站外没有，如果收录了会造成和TAG等页面的内容相近。

　　Disallow： /?r=*

　　屏蔽留言链接插件留下的变形留言链接。(没安装相关插件当然不用这条指令)

　　Disallow： /*.jpg$

　　Disallow： /*.jpeg$

　　Disallow： /*.gif$

　　Disallow： /*.png$

　　Disallow： /*.bmp$

　　屏蔽捉取任何图片文件，在这里主要是想节约点宽带，不同的网站管理员可以按照喜好和需要设置这几条指令。

　　Disallow： /?p=*

　　屏蔽捉取短链接。默认头部里的短链接，百度等搜索引擎蜘蛛会试图捉取，虽然最终短链接会301重定向到固定链接，但这样依然造成蜘蛛资源的浪费。

　　Disallow： /*/comment-page-*

　　Disallow： /*?replytocom*

　　屏蔽捉取留言信息链接。一般不会收录到这样的链接，但为了节约蜘蛛资源，也屏蔽之。

　　Disallow： /a/date/

　　Disallow： /a/author/

　　Disallow： /a/category/

　　Disallow： /?p=*&preview=true

　　Disallow： /?page_id=*&preview=true

　　Disallow： /wp-login.php

　　屏蔽其他的一些形形色色的链接，避免造成重复内容和隐私问题。

　　Sitemap:http://***.com/sitemap.txt

　　网站地图地址指令，主流是txt和xml格式。告诉搜索引擎网站地图地址，方便搜索引擎捉取全站内容，当然你可以设置多个地图地址。要注意的就是Sitemap的S要用大写，地图地址也要用绝对地址。

　　上面的这些Disallow指令都不是强制要求的，可以按需写入。也建议站点开通谷歌管理员工具，检查站点的robots.txt是否规范。

　　本站robots.txt里的指令解释会永久保留，http://yihuiblog.com/robots.txt。大家可以收藏，方便修改的时候用作参考。

评论总数：0 条 [ 查看全部 ] 网友评论