robots.txt文件

1. 什么是robots.txt文件？css   搜索引擎经过一种程序robot（又称spider），自动访问互联网上的网页并获取网页信 息。您能够在您的网站中建立一个纯文本文件robots.txt，在这个文件中声明该网站中不想被robot 访问的部分，这样，该网站的部分或所有内容就能够不被搜索引擎收录了，或者指定搜 索引擎只收录指定的内容。html   2. robots.txt文件放在哪里？数

>>阅读原文<<