web安全：X老师上课讲了Robots协议，小宁同窗却上课打了瞌睡，赶忙来教教小宁Robots协议是什么吧

题目描述： robots协议 robots协议也叫robots.txt（统一小写）是一种存放于网站根目录下的ASCII编码的文本文件，它一般告诉网络搜索引擎的漫游器（又称网络蜘蛛），此网站中的哪些内容是不该被搜索引擎的漫游器获取的，哪些是能够被漫游器获取的。由于一些系统中的URL是大小写敏感的，因此robots.txt的文件名应统一为小写。robots.txt应放置于网站的根目录下。若是想单独定义

>>阅读原文<<