禁止搜索引擎收录某些文件的方法
如果网站上面有一些上传的文档或文件不像被搜索引擎看到，禁止收录，那么可以通过robots.txt来实现。
搜索引擎通过一种程序robot（又称spider），自动访问互联网上的网页并获取网页信息。
您可以在您的网站中创建一个纯文本文件robots.txt，在这个文件中声明该网站中不想被robot访问的部分，这样，该网站的部分或全部内容就可以不被搜索引擎收录了，或者指定搜索引擎只收录指定的内容。
robots.txt文件应该放在该网站根的目录。当robots访问一个网站（比如http://www.yyxin.com）时，首先会检查该网站中是否存在http://www.yyxin.com/robots.txt这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。
在该文件中可以使用#进行注解，该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况如下：
User-agent:
该项的值用于描述搜索引擎robot的名字，在"robots.txt"文件中，如果有多条User-agent记录说明有多个robot会受到该协议的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为*，则该协议对任何机器人均有效，在"robots.txt"文件中，"User-agent：*"这样的记录只能有一条。
Disallow :
该项的值用于描述不希望被访问到的一个URL，这个URL可以是一条完整的路径，也可以是部分的，任何以Disallow 开头的URL均不会被robot访问到。例如"Disallow: /help"对/help.html 和/help/index.html都不允许搜索引擎访问，而"Disallow: /help/"则允许robot访问/help.html，而不能访问/help/index.html。
任何一条Disallow记录为空，说明该网站的所有部分都允许被访问，在"/robots.txt"文件中，至少要有一条Disallow记录。如果"/robots.txt"是一个空文件，则对于所有的搜索引擎robot，该网站都是开放的。
例1. 禁止所有搜索引擎访问网站的任何部分
User-agent: *
Disallow: /
例2. 允许所有的robot访问
(或者也可以建一个空文件 "/robots.txt" file)
User-agent: *
Disallow:
例3. 禁止某个搜索引擎的访问
User-agent: BadBot
Disallow: /
例4. 允许某个搜索引擎的访问
User-agent: baiduspider
Disallow:
User-agent: *
Disallow: /
例如 DISCUZ的robots.txt 是这样的
#
# robots.txt for Discuz! Board
# Version 7.0.0
#
User-agent: *
Disallow: /admin/
Disallow: /api/
Disallow: /attachments/
Disallow: /images/
Disallow: /install/
Disallow: /forumdata/
Disallow: /include/
Disallow: /ipdata/
Disallow: /modcp/
后面还有其他文件，省略了
相关日志
如何在discuz论坛中显示外部网站内容？利用谷歌关键字工具进行GOOGLE关键词分析
如何提高关键字排名的八大技巧
WordPress更换主题对SEO收录的影响
谷歌退出了，来自谷歌的流量增加了
随机文章
查询郑州住房公积金帐户信息wordpress 如何更改域名
Discuz批量删除未审核通过的帖子和主题
wordpress 随机文章，随机日志，最新文章，最新评论
discuz 如何在帖子中插入播放FLASH动画,视频和音乐
雅虎域名转移到Godaddy步骤
godaddy的windows主机设置discuz7.2静态化
2010浏览器排行榜
使用Google Gears给WordPress加速
如何取消Paypal的自动续费协议？
[...] 如何取消Paypal的自动续费协议？请查看 http://www.cmszs.com/archives/cancel-paypal-xufei.html [...]
有意思。
[...] 如何取消Paypal的自动续费协议？请查看 http://www.cmszs.com/2009/09/cancel-paypal-xufei/ [...]