十万数据处理(初试python黑魔法asyncio)

前言 本篇要从小7的朋友提及。数据组的他收到业务提交的三个excel。要求将其中的地址转成经纬度,而后匹配最近的银行网点。现用的转换程序约二秒出一条记录,三个excel总数据量约十几万。这也难怪会愁了。html 正文 0x01使用scrapy爬虫框架处理。 缘由有如下几点: 1. 上次使用scrapy爬携程评论如今仍是比较熟悉 2. scrapy使用的是异步请求(重点) 3. 框架设计有数据持久化
相关文章
相关标签/搜索