美丽汤的请求 - 小甜饼豆瓣爬虫

python3  requests + beautiful soup4 去爬“豆瓣最受欢迎的影评”,目的是爬取这些影评的作者的个人资料     1.模拟登陆 豆瓣er知道,上豆瓣时,如果是未登录状态,访问几个页面后,豆瓣会跳转到一个登录页面请求你注册/登录。所以,小爬虫需要解决这个问题才能爬到终点。 这里的解决方案就是模拟登陆。 一种是先分析这个网站登录时要POST哪些数据,然后通过POST这些数
相关文章
相关标签/搜索