python可视化文本分析(1)—分析QQ班群聊天记录宏观

公众号文章连接

• 前一段时间就想作简单的==可视化文本分析==玩，今天就花点时间先对总体班级的==QQ群聊天信息作一个简单的分析==。
• 打算分两步作，本文是最简单的第一步过程
  • 1：分析整个聊天记录的时间分配。而且用matplotlib展现出来。并把整个聊天的关键词作成词云。
  • 2：融入snownlp情感分析，分析每一个同窗的词云分布，每一个同窗的发言次数状况，以及每一个同窗文本的情绪走势以及展现。 等等
  • 总的来讲就是先试试水，而后再作第二个。用到的库有：jieba分词，wordcloud词云，numpy数组，matplotlib可视化，snownlp(第二个)，re正则(很重要)。这些用不到深刻的东西，只用到很简单的一小部分，均可以直接 pip install xxx。
• 言归正传，下面说一下个人学习历程：

1. 首先，第一步就是导出群聊消息，再qq的资源管理器上选择群能够==导出群消息==记录成txt文本。
2. 要观察聊天记录的规则，了解==文本结构==。可以解析下列方框标注的内容很重要。

   

   这部分主要的文本格式为：

2018-05-05 15:55:40 2班某某(1315426911)
2018-05-07 13:48:39 2XXX<xxxx@qq.com>
复制代码

3. 下一步就须要==正则匹配==获取相应的内容。 这个地方的正则匹配规则也很简单，由于格式固定. 可是我要分配各个聊天的时间，那么就要匹配"15:55:40"这段话，能够重写一个正则或者在原来的正则上添加，我选择重写正则，对于==正则取值==前端时间简单写过取值两个正则表达式为：

pattern=re.compile(r'(\d*)-(\d*)-(\d*) .* .*')#匹配 信息
pattern2=re.compile(r'(\d+):(\d+):\d+')#匹配 15:55:40
复制代码

4. 既然能取到上一步骤人说的话，那么咱们在下一步就须要对==数据去噪==。那些数据会对结果有影响可是咱们不须要的，这里大体列了几个（要注意的是文本换行符/n，每行不管是什么都有一个换行符）：
   • 空格消息
   • 红包
   • 表情
   • 撤回的消息
   • 图片
   • @全体成员
   • 个别群复读机严重适当处理
   • 其余
5. 这样每次按行读取，添加对应的次数和文本内容和水群次数。
6. 制做聊天时间分布图。使用matplotlib展现坐标的一些坑点已经解决。保存图片到本地。
7. 将各个文本合并生成班级主题词云。保存图片到本地。
8. 观察词云的词是否有不应出现的词语，分析缘由对数据进行==二次去噪==。我当时就是由于第一次写的正则没有匹配"2018-05-07 13:48:39 2班xxxxxxx@qq.com"致使词云出现一个同窗的名字。。后来把正则改了就决绝了。你也可能会遇到特殊状况须要常常@某我的，，你能够自行处理。

代码开箱可用，你须要把你的文件名==替换正确的路径==，还有要在同级目录下==建立img文件夹==保存生成的两张图片。各类依赖环境很简单，直接pip install xxx。 附上核心代码：

import re
import numpy as np
import matplotlib.pyplot as plt  ##绘图库
from wordcloud import WordCloud
import jieba.analyse
string="2018-05-05 15:55:40 2班某某(1315426911)"
pattern=re.compile(r'(\d*)-(\d*)-(\d*) .* .*')
#匹配 2018-05-05 15:55:40 2班某某(1315426911) 有一个坑点就是2018-05-07 13:48:39 2XXX<xxxx@qq.com>这种格式
pattern2=re.compile(r'(\d+):(\d+):\d+')#匹配 15:55:40
#pattern3=re.compile(r'(\()(.*?)(\))')#匹配 2班某某(1315426911)相关内容
f = open('E:/text.txt', 'r', encoding='utf-8')  # 要进行分词处理的文本文件 (通通按照utf8文件去处理，免得麻烦)
lines = f.readlines()
index=0
def getpicture(y):#matplotlib绘图
    x=[]
    for i in range(0,24):
        x.append(str(i)+':00-'+str(i+1)+':00')
    Xi = np.array(x)
    Yi = np.array(y)
    plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
    plt.figure(figsize=(8, 6))  ##指定图像比例： 8：6
    plt.subplots_adjust(bottom=0.2)
    plt.scatter(Xi, Yi, color="red", label="times")
    plt.xlabel("时间00：00—24：00")
    plt.ylabel("发言次数/次")
    plt.xticks(range(0,24),rotation=75,fontsize=10)#设置横坐标显示24次。
    plt.yticks(range(0,1000,50))
   # plt.legend(loc='lower right') # 绘制图例
   # plt.show()
    plt.savefig("img/hour.png",format='png')
    plt.close()
def getciyun(value):
    text=''
    for i in range(0,24):
        text+=str(value[i]['text'])
    args=jieba.analyse.extract_tags(text,topK=80)
    text=' '.join(args)
    wc = WordCloud(background_color="white",
                   width=1500, height=1000,
                   min_font_size=40,
                   font_path="simhei.ttf",
                  # max_font_size=300, # 设置字体最大值
                   random_state=40,  # 设置有多少种随机生成状态，即有多少种配色方案
                   )  # 字体这里有个坑，必定要设这个参数。不然会显示一堆小方框wc.font_path="simhei.ttf" # 黑体
    # wc.font_path="simhei.ttf"
    my_wordcloud = wc.generate(text)

    plt.imshow(my_wordcloud)
    plt.axis("off")
    plt.show()
    wc.to_file('img/wordcloud.png')
def analysebyhour(lines):
    value=[]
    y=[]
    index=0
    for i in range(0,24):
        value.append({})
        value[i]['time']=0
        value[i]['text']=''
    for line in lines:
        if line != "\n" and line.strip() != "\n" and line != None and not line.__contains__("撤回了"):
           line = line.replace("[表情]", " ").replace("@全体成员", " ").replace("[表情]", " ").\
                replace("[QQ红包]我发了一个“专享红包”，请使用新版手机QQ查收红。", "").replace("\n", " ").replace("[图片]",'')
           if(pattern.search(line)):#匹配到正确的对象
                date=pattern.search(line)
                hour=pattern2.search(line).group(1)
                #print(date.group(0),hour)
                value[int(hour)]['time']+=1
                index=hour
           else:
               print(line)
               value[int(index)]['text']+=str(line)
    for i in range(0,24):
        print('time:',i,'time',value[i]['time'])
        y.append(value[i]['time'])
    getpicture(y)
    getciyun(value)
analysebyhour(lines)
复制代码

而后两张图片就出来了：

• 第一个点状图能够发现咱们的聊天时间11：00-12：00突出，17：00-18：00突出，由于这个时间咱们没有课程在吃饭或者玩，有时候下午或者晚上或者其余的安排或者考试啥的可能会讨论。而13：00-14：00这个点咱们大部分在午休通常没人聊天。可是醒了以后就会一直很活跃😀。
• 第二个词云能够看的出咱们最近在聊啥，由于个人记录是5月十几才开始，记录不足，准备找一份记录足的作下一个研究。你可能经过词云发现个人其实还有挺大的不足就是QQ小冰没有过滤掉。但愿若是读者有兴趣尝试能够处理一下。

经过这些简单的文本分析感受颇有趣，有兴趣等有时间把第二种也作出来，那种可能作起来比较麻烦一些。可是难道仍是不大的。这些东西看似高深，其实了解api作起来很简单。

但愿一块儿加油。