Scrapy爬虫同步、异步保存MySQL

一、保存数据库有两种方法: 同步操做:数据量少的时候采用 异步操做:数据量大时采用,scrapy爬取的速度大于数据库插入的速度,当数据量大时就会出现堵塞,就须要采用异步保存。 这里多大的数据量才可定义为大??html 二、须知mysql知识点 数据库与表的建立,基本操做;      参考https://blog.csdn.net/shalyniu/article/details/79247423
相关文章
相关标签/搜索