【攻防世界】CTF web新手03 robots协议

【攻防世界】CTF web新手03 robots协议 什么是robots协议？php Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站经过Robots协议告诉搜索引擎哪些页面能够抓取，哪些页面不能抓取。web 具体内容可看：https://blog.csdn.net/zhangyingchengqi/artic

>>阅读原文<<