网易云音乐综合爬虫python库NetCloud v1版本发布

之前写的太烂了,此次基本把以前的代码所有重构了一遍。github地址是:NetCloud.下面是简单的介绍以及quick start.

NetCloud——一个完善的网易云音乐综合爬虫Python库

  目前只须要使用命令pip3 install netcloud 便可以完成模块的安装,支持Windows与Linux系统,彻底支持python3,不保证兼容python2,因此强烈建议使用python3.代码github的地址是Netcloud

  项目结构:

netcloud/ ├── analyse │  
├── crawler │  
├── demo │  
├── login │  
├── test │  
└── util - sourcehtml

netcloud是模块根目录python

analyse:网易云音乐评论以及用户信息可视化分析的模块linux

crawler:网易云音乐评论爬虫模块git

demo:一些demogithub

login:网易云音乐模块登陆模块,提供了丰富的网易云api,包括音乐评论,专辑,歌手等等json

test:测试模块windows

util:工具类模块,其中也包括了source目录,主要存放一些资源文件api

   快速使用,一些简单的例子以下(也能够参考demo模块的demos,或者下面列出的核心api):

  1. 抓取歌手歌曲的热门评论以及所有评论
from netcloud.crawler.Crawler import NetCloudCrawler
singer_name = "林俊杰"
song_name = "豆浆油条"
nc_crawler = NetCloudCrawler(song_name = song_name,singer_name = singer_name)
# 保存歌手的所有热门评论
nc_crawler.save_singer_all_hot_comments_to_file()
# 使用多线程(20个线程)保存歌曲的所有评论
nc_crawler.save_all_comments_to_file_by_multi_threading(20)

2.对于歌曲的评论文件以及评论用户进行可视化分析浏览器

from netcloud.analyse.Analyse import NetCloudAnalyse
singer_name = "王力宏"
song_name = "须要人陪"
nc_analyse = NetCloudAnalyse(song_name = song_name,singer_name = singer_name)
# 多线程抓取歌曲评论的所有用户相关信息并保存到磁盘
nc_analyse.save_all_users_info_to_file_by_multi_threading()
# 进行核心可视化分析,包括用户属性分布(年龄,地区,性别等)以及评论时间,关键词分布等),
# 生成的html文件能够在浏览器打开查看
nc_analyse.core_visual_analyse()

3.模拟登陆网易云音乐,并尝试一些api多线程

from netcloud.login.Login import NetCloudLogin
# 模拟登陆,若是不传任何参数,则表示从config.xml文件加载登陆信息(用户名,密码等)
# 配置文件的默认路径是:当前登陆用户home目录/.NetCloud/config/config.xml
nc_login = NetCloudLogin()
# 也能够显式传入用户名和密码等登陆信息
#nc_login = NetCloudLogin(phone="xxxxxxxxxxx",password="xxxxxxx",email="xxxxx",rememberLogin=True)
# 打印登陆用户的朋友动态,结果以json格式展现
print(nc_login.get_friends_event().json())
# 打印自身用户id
print(nc_login.get_self_id())
# 打印本身收藏的专辑(结果太长,这里略过)
print(nc_login.get_self_record().json())
# 单线程下载歌单中的所有歌曲到本地
nc_login.download_play_list_songs(2431814627,limit=1000)
# 打印本身的前10条fans信息
print(nc_login.get_self_fans(offset=0,limit=10).json())
  1. 调用login的一些核心api,格式化打印一些信息
from netcloud.login.Printer import NetCloudPrinter
# 同上,能够不传参数从配置文件加载登陆信息
# 或者也能够显式传入登陆参数
nc_printer = NetCloudPrinter()
# 格式化打印搜索api搜索歌手`韩红`的结果
nc_printer.pretty_print_search_singer(search_singer_name="韩红")
'''
2019-01-15 02:56:23,416 - Printer.py[line:246] - INFO: Your search singer name is:韩红
2019-01-15 02:56:23,417 - Printer.py[line:249] - INFO: Here is your search result(total 1):
2019-01-15 02:56:23,417 - Printer.py[line:251] - INFO: --------------------  search result 1  --------------------
2019-01-15 02:56:23,417 - Printer.py[line:253] - INFO: singer name:韩红
2019-01-15 02:56:23,418 - Printer.py[line:255] - INFO: alias:
2019-01-15 02:56:23,418 - Printer.py[line:259] - INFO: 
singer id:7891
2019-01-15 02:56:23,418 - Printer.py[line:261] - INFO: singer image url:http://p2.music.126.net/Se3mLHw_oKufAnG7VCka_g==/109951163096672305.jpg
2019-01-15 02:56:23,418 - Printer.py[line:263] - INFO: singer mv count:20
2019-01-15 02:56:23,418 - Printer.py[line:265] - INFO: singer album count:43
'''
# 格式化打印本身的信息
nc_printer.pretty_print_self_info()
'''
2019-01-15 03:33:21,658 - Printer.py[line:57] - INFO: Hello,Lyrichu!
Here is your personal info:
2019-01-15 03:33:21,659 - Printer.py[line:74] - INFO: avatarUrl:http://p2.music.126.net/OkEDo-a_rHCC1zEDbg7dYg==/8003345140341032.jpg
signature:热爱生活,热爱音乐!
nickname:Lyrichu
userName:0_m15527594439@163.com
province_id:420000
birthday:1995-02-12
description:
gender:male
userId:44818930
cellphone:xxxxxxx
email:xxxxxxxx@163.com
'''

详细介绍请去github NetCloud,欢迎star & fork & pr.

相关文章
相关标签/搜索