多线程爬虫3

Python并行化介绍

•多个线程同时处理任务函数

•高效线程

•快速ip

map的使用

•map 函数一手包办了序列操做、参数传递和结果保存等一系列的操做。import

•from multiprocessing.dummy import Poolmap

•pool = Pool(4)并行

•results = pool.map(爬取函数, 网址列表)im

相关文章
相关标签/搜索