本文的文字及图片来源于网络,仅供学习、交流使用,不具备任何商业用途,版权归原做者全部,若有问题请及时联系咱们以做处理html
如下文章来源于青灯编程 ，做者：清风python
私信回复“资料”，便可免费领取Python实战案例讲解视频编程
Python爬取B站视频，只需一个B站视频地址，便可任意下载，观看地址：json
https://www.bilibili.com/video/BV1LX4y1u7VA/
前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具备任何商业用途,若有问题请及时联系咱们以做处理。网络
基本开发环境
- Python 3.6
- Pycharm
相关模块的使用
import jieba import wordcloud import time import requests
目标网页分析
今天就爬取青灯教育免费公开课的课程评价ide
网站地址：工具
https://ke.qq.com/course/384363?taid=10654594091048299&tuin=8aa5eb27
如何获取课程评价？
打开开发者工具（F12或者鼠标右键点击检查），复制评价，在开发者工具当中进行搜索。学习
这个接口数据有10条评价，一页评价也是10条评论，因此只须要请求这个连接，再经过json数据，字典取值的方式提取评价内容便可。字体
如何实现多页爬取
第一页评价数据接口参数网站
第二页评价数据接口参数
经过对比可得：page参数的变化，对应的是页码数。构建for循环便可实现多页爬取效果。
爬虫实现代码
注意点：
headers 参数须要添加 referer 防盗链，否则获取不到数据
import time
import requests
for page in range(0, 23):
time.sleep(1)
url = 'https://ke.qq.com/cgi-bin/comment_new/course_comment_list'
headers = {
'referer': 'https://ke.qq.com/course/384363?taid=10654585501113707&tuin=8aa5eb27',
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
params = {
'cid': '384363',
'count': '10',
'page': page,
'filter_rating': '0',
'bkn': '1905043087',
'r': '0.30477140651006174',
}
response = requests.get(url=url, params=params, headers=headers)
html_data = response.json()
result = html_data['result']['items']
for i in result:
comment = i['first_comment']
with open('评价.txt', mode='a', encoding='utf-8') as f:
f.write(comment)
f.write('\n')
print(comment)
词云实现代码
import jieba
import wordcloud
# 读取文件内容
f = open(r'D:\python\demo\腾讯课堂评价\评价.txt', encoding='utf-8')
txt = f.read()
# jieba 分词 分割词汇
txt_list = jieba.lcut(txt)
string = ' '.join(txt_list)
# 词云图设置
wc = wordcloud.WordCloud(
width=1000, # 图片的宽
height=700, # 图片的高
background_color='white', # 图片背景颜色
font_path='msyh.ttc', # 词云字体
# mask=py, # 所使用的词云图片
scale=15,
stopwords={'老师'}, # 停用词
# contour_width=5,
# contour_color='red' # 轮廓颜色
)
# 给词云输入文字
wc.generate(string)
# 词云图保存图片地址
wc.to_file(r'D:\python\demo\腾讯课堂评价\out.png')
本文同步分享在 博客“松鼠爱吃饼干”（CSDN）。
若有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一块儿分享。