前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。相关环境配置

python 3.6pycharmrequestsparselwordcloudjieba

相关模块pip安装即可

国庆假期原本小编也是去看了这部电影的，看完之后总体而言还是比较失望的，动画效果是真的好，但是剧情太拉垮了~ 网上很多影评好评都是给的动画特效，差评都是给的剧情方面~

言归正传~咱们今天爬取一下豆瓣影评，看看各大网友都是什么样的看法吧

目标网页

豆瓣网是静态网页，网站上面的数据都是有再网页源代码有的，请求网页，返回response数据，然后解析数据，保存数据就OK了，一气呵成，对于静态网页就不过多的说明了，还是比较简单的~

影评爬虫代码

import requests import parsel import time for page in range(0, 3000, 20): time.sleep(1) url = 'https://movie.douban.com/subject/25907124/reviews' headers = { 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9', 'Host': 'movie.douban.com', 'Referer': 'https: // movie.douban.com / subject / 26754233 / reviews?start = 140', 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36', } response = requests.get(url=url, headers=headers) selector = parsel.Selector(response.text) data = selector.css('#content .article .review-list .short-content::text').getall() for i in data: a = i.strip().replace('\n', '').replace(')', '').replace('(', '') with open('姜子牙影评' + '.txt', mode='a', encoding='utf-8') as f: f.write(a) f.write('\n') print(a)

词云代码

import jieba import wordcloud import imageio # 导入imageio库中的imread函数，并用这个函数读取本地图片，作为词云形状图片 py = imageio.imread(r"D:\python\demo\姜子牙豆瓣影评\四不象.png") # 读取文件内容 f = open(r'D:\python\demo\姜子牙豆瓣影评\姜子牙影评.txt', encoding='utf-8') txt = f.read() # print(txt) # jiabe 分词 分割词汇 txt_list = jieba.lcut(txt) string = ' '.join(txt_list) # 词云图设置 wc = wordcloud.WordCloud( width=1000, # 图片的宽 height=700, # 图片的高 background_color='white', # 图片背景颜色 font_path='msyh.ttc', # 词云字体 mask=py, # 所使用的词云图片 scale=15, stopwords={' ', '没有', '真的', '还是', '就是', '如果', '不是', '什么', '一个', '这部', '但是', '觉得', '有点', '虽然', '我们'}, # contour_width=5, # contour_color='red' # 轮廓颜色 ) # 给词云输入文字 wc.generate(string) # 词云图保存图片地址 wc.to_file(r'D:\python\demo\姜子牙豆瓣影评\out.png')

 

好玩又简单，完整项目代码获取点这即可