分布式爬虫初识及Redis----windows安装

今天为大家介绍的是分布式爬虫和redis数据库,分布式爬虫今天主要带大家认识一下它,以及它的优缺点和适用范围;redis数据库主要是怎么去安装它,提及它的特点,至于它的使用,接下来我会一一向大家介绍。 一、什么是分布式爬虫? 1.默认情况下,scrapy爬虫是单机爬虫,只能在一台电脑上爬虫 因为怕产品能够调度器的队列queue去重和set都是在本机上创建的 其他电脑无法访问另一台电脑上的内存的内容
相关文章
相关标签/搜索