因为国内政策环境的影响。现在个人站长做站是越来越难了。尤其是没有备案的网站。直接就被国内屏蔽了。国内的各大搜索引擎顶多收录首页。内容页想要收录不按政策走就是做梦。这就是国内的政治环境。国外的GOOGLE和BING这些搜索引擎才不管你政治不政治。谷歌搜索引擎收录最快，你网站有任何风吹草动都逃不了google的蜘蛛。但是也不能让搜索引擎什么内容都收录，尤其是最近使用搜索引擎搜索网站收录效果，发现有很多没有意义的内容。所以就需要robots.txt设置一些规则来给蜘蛛指路。
如果你的 WordPress 站点还没有 robots.txt 文件，那么老猫觉得你就更有必要添加一个了，即使你的站点可以让搜索引擎随意抓取，因为搜索引擎机器人访问网站时，首先会寻找站点根目录有没有 robots.txt 文件，如果有这个文件就根据文件的内容确定收录范围，如果没有就按默认访问以及收录所有页面。另外，当搜索蜘蛛发现不存在 robots.txt 文件时，会产生一个 404 错误日志在服务器上，从而增加服务器的负担，因此为站点添加一个 robots.txt 文件还是很重要的。
好了，还是来分享一个经过老猫整理的比较完善的适用于 WordPress 的 robots.txt 文件内容吧！
使用方法
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /trackback/
Disallow: /comments/
Disallow: /attachment/
Disallow: /comments/feed
Disallow: /feed
Disallow: /*/feed
Disallow: /*/comment-page-*
Disallow: /*?replytocom=*
Disallow: /*/trackback
Disallow: /?s=*
Disallow: /*/?s=*\
Disallow: /wp-*.php
Sitemap: http://yourdomain.com/sitemap.html
新建一个名称为 robots.txt 文本文件，将以上的内容放进去，然后上传到网站根目录即可。
最后还是简单的解析一下其对应作用
1、User-agent: *
允许所有搜索引擎抓取网站，除非你网站有特别针对某个或多个搜索引擎，你可以适当的设置其抓取。如下只允许百度和谷歌抓取：
User-agent: Baiduspider
Disallow: /
User-agent: Googlebot
Disallow: /
这样设置的意思为只允许百度和谷歌的蜘蛛抓取所有，但是这里老猫用的是 Disallow 并设置的/根目录，所以这里其实是禁止了百度和谷歌抓取，如果要允许所有可以使用Allow，大家可以举一反三的使用，仔细的体会感受一下。
2、Disallow: /wp-admin/、Disallow: /wp-content/和 Disallow: /wp-includes/
用于告诉搜索引擎不要抓取后台程序文件页面。
3、Disallow: /*/comment-page-*和 Disallow: /*?replytocom=*
禁止搜索引擎抓取评论分页等相关链接。
4、Disallow: /category/*/page/和 Disallow: /tag/*/page/
禁止搜索引擎抓取收录分类和标签的分页。（这一条老猫并未添加到上面演示，因为不同 WordPress 站点可能会有所不同，大家可以根据需要添加）
5、Disallow: /*/trackback 和 Disallow: /trackback/
禁止搜索引擎抓取收录 trackback 等垃圾信息
6、Disallow: /feed、Disallow: /*/feed 和 Disallow: /comments/feed
禁止搜索引擎抓取收录 feed 链接，feed 只用于订阅本站，与搜索引擎无关。
7、Disallow: /?s=*和 Disallow: /*/?s=*\
禁止搜索引擎抓取站内搜索结果
8、Disallow: /attachment/
禁止搜索引擎抓取附件页面，比如毫无意义的图片附件页面。
9、Disallow: /wp-*.php
禁止搜索引擎抓取 WordPress 网站根目录的以 wp 开头的文件。
10、Sitemap: http://yourdomain.com/sitemap.html
这个就是为了方便搜索引擎利用的网站地图，具体的根据自己网站需要添加。
其实关于网站 robots.txt 的内容还有很多很多，这里老猫就只是列举了 WordPress 最常用的一些规则罢了，如果不是最近因为泪雪博客的 robots.txt 出现一些马虎导致了问题，老猫也不会单独在整理关于 WordPress 的 robots.txt 了，不管怎么样，希望能帮助到大家！
请先 ！