【爬虫+情感判定+Top10高频词+词云图】“谷爱凌”评论数据情感分析
目录
一、背景介绍
二、代码讲解-爬虫部分
2.1 分析弹幕接口
2.2 讲解爬虫代码
三、代码讲解-情感分析部分
3.1 整体思路
3.2 情感分析打标
3.3 统计top10高频词
3.4 绘制词云图
3.5 情感分析结论
一、背景介绍
最近几天，谷爱凌在冬奥会赛场上夺得一枚宝贵的金牌，为中国队贡献了自己的荣誉！
针对此热门事件，我用Python的爬虫和情感分析技术，针对弹幕数据，分析了众网友弹幕的舆论导向，下面我们来看一下，是如何实现的分析过程。
二、代码讲解-爬虫部分
2.1 分析弹幕接口
首先分析弹幕接口。
经过分析，得到的弹幕地址有两种：
可移步至公众号首发文章查看
这两种返回的结果一致！但都不全，都是只有部分弹幕！
以视频（BV1YY41157dk）为例，查看网页源代码，可以找到对应的cid为503862594，所以该视频对应的弹幕接口地址是：
可移步至公众号首发文章查看
弹幕接口
既然这样，就好办了，开始撸代码！
2.2 讲解爬虫代码
首先，导入需要用到的库：
import re # 正则表达式提取文本import requests # 爬虫发送请求from bs4 import BeautifulSoup as BS # 爬虫解析页面import timeimport pandas as pd # 存入csv文件import os然后，向视频地址发送请求，解析出cid号：
r1 = requests.get(url=v_url, headers=headers)html1 = r1.textcid = re.findall('cid=(.*?)&aid=', html1)[0] # 获取视频对应的cid号print('该视频的cid是:', cid)根据cid号，拼出xml接口地址，并再次发送请求：
danmu_url = '请移步公众号首发文章查看'.format(cid) # 弹幕地址print('弹幕地址是：', danmu_url)r2 = requests.get(danmu_url)解析xml页面：标签的文本内容为弹幕，标签内p属性值（按逗号分隔）的第四个字段是时间戳：
soup = BS(html2, 'xml')danmu_list = soup.find_all('d')print('共爬取到{}条弹幕'.format(len(danmu_list)))video_url_list = [] # 视频地址danmu_url_list = [] # 弹幕地址time_list = [] # 弹幕时间text_list = [] # 弹幕内容for d in danmu_list:data_split = d['p'].split(',') # 按逗号分隔temp_time = time.localtime(int(data_split[4])) # 转换时间格式danmu_time = time.strftime("%Y-%m-%d %H:%M:%S", temp_time)video_url_list.append(v_url)danmu_url_list.append(danmu_url)time_list.append(danmu_time)text_list.append(d.text)print('{}:{}'.format(danmu_time, d.text))保存时应注意，为了避免多次写入csv标题头，像这样：
可移步至公众号首发文章查看
这里，我写了一个处理逻辑，大家看注释，应该能明白：
if os.path.exists(v_result_file): # 如果文件存在，不需写入字段标题header = Noneelse: # 如果文件不存在，说明是第一次新建文件，需写入字段标题header = ['视频地址', '弹幕地址', '弹幕时间', '弹幕内容']df.to_csv(v_result_file, encoding='utf_8_sig', mode='a+', index=False, header=header) # 数据保存到csv文件三、代码讲解-情感分析部分
3.1 整体思路
针对情感分析需求，我主要做了三个步骤的分析工作：
- 用SnowNLP给弹幕内容打标：积极、消极，并统计占比情况
- 用jieba.analyse分词，并统计top10高频词
- 用WordCloud绘制词云图
首先，导入csv数据，并做数据清洗工作，不再赘述。
下面，正式进入情感分析代码部分：
3.2 情感分析打标
情感分析计算得分值、分类打标，并统计积极/消极占比。
# 情感分析打标def sentiment_analyse(v_cmt_list):"""情感分析打分:param v_cmt_list: 需要处理的评论列表:return:"""score_list = [] # 情感评分值tag_list = [] # 打标分类结果pos_count = 0 # 计数器-积极neg_count = 0 # 计数器-消极for comment in v_cmt_list:tag = ''sentiments_score = SnowNLP(comment).sentimentsif sentiments_score < 0.3:tag = '消极'neg_count += 1else:tag = '积极'pos_count += 1score_list.append(sentiments_score) # 得分值tag_list.append(tag) # 判定结果print('积极评价占比：', round(pos_count / (pos_count + neg_count), 4))print('消极评价占比：', round(neg_count / (pos_count + neg_count), 4))df['情感得分'] = score_listdf['分析结果'] = tag_list# 把情感分析结果保存到excel文件df.to_excel('谷爱凌_情感评分结果.xlsx', index=None)print('情感分析结果已生成：谷爱凌_情感评分结果.xlsx')这里，我设定情感得分值小于0.3为消极，否则为积极。（这个分界线，没有统一标准，根据数据分布情况和分析经验自己设定分界线即可）
占比结果：
正负面评价占比
打标结果：（最后两列，分别是得分值和打标结果）
可移步至公众号首发文章查看
3.3 统计top10高频词
# 2、用jieba统计弹幕中的top10高频词keywords_top10 = jieba.analyse.extract_tags(v_cmt_str, withWeight=True, topK=10)print('top10关键词及权重：')pprint(keywords_top10)这里需要注意，在调用jieba.analyse.extract_tags函数时，要导入的是import jieba.analyse 而不是 import jieba
统计结果为：（分为10组关键词及其权重，权重按倒序排序）
3.4 绘制词云图
注意别踩坑：
想要通过原始图片的形状生成词云图，原始图片一定要白色背景（实在没有的话，PS修图修一个吧），否则生成的是满屏词云！！
def make_wordcloud(v_str, v_stopwords, v_outfile):"""绘制词云图:param v_str: 输入字符串:param v_stopwords: 停用词:param v_outfile: 输出文件:return: None"""print('开始生成词云图：{}'.format(v_outfile))try:stopwords = v_stopwords # 停用词backgroud_Image = np.array(Image.open('谷爱凌背景图.png')) # 读取背景图片wc = WordCloud(background_color="white", # 背景颜色width=1500, # 图宽height=1200, # 图高max_words=1000, # 最多字数font_path='/System/Library/Fonts/SimHei.ttf', # 字体文件路径，根据实际情况(Mac)替换# font_path="C:\Windows\Fonts\simhei.ttf", # 字体文件路径，根据实际情况(Windows)替换stopwords=stopwords, # 停用词mask=backgroud_Image, # 背景图片)jieba_text = " ".join(jieba.lcut(v_str)) # jieba分词wc.generate_from_text(jieba_text) # 生成词云图wc.to_file(v_outfile) # 保存图片文件print('词云文件保存成功：{}'.format(v_outfile))except Exception as e:print('make_wordcloud except: {}'.format(str(e)))得到的词云图：
词云图结果
和原始背景图对比：
背景图是一张谷爱凌右手拿着花的领奖图片
背景图
3.5 情感分析结论
- 打标结果中，积极评价占0.8871，远远大于消极评价！
- top10关键词统计结果中，"加油"、"厉害"、"天才"等好评词汇占据多数！
- 词云图中，"中国"、"好"、"厉害"、"卧槽"等好评词看上去更大（词频高）！
综上所述，经分析"谷爱凌"相关弹幕，得出结论：
众多网友对谷爱凌的评价都很高，也很喜欢她，毕竟不但年轻、颜值高、有才华，还能为祖国争得宝贵的荣誉！
致敬！！
