前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
PS：如有需要Python学习资料的小伙伴可以加点击下方链接自行获取
python免费学习资料以及群交流解答点击即可加入
相关环境配置
python 3.6pycharmrequestsparselwordcloudjieba
相关模块pip安装即可 国庆假期原本小编也是去看了这部电影的，看完之后总体而言还是比较失望的，动画效果是真的好，但是剧情太拉垮了~ 网上很多影评好评都是给的动画特效，差评都是给的剧情方面~
言归正传~咱们今天爬取一下豆瓣影评，看看各大网友都是什么样的看法吧
目标网页
豆瓣网是静态网页，网站上面的数据都是有再网页源代码有的，请求网页，返回response数据，然后解析数据，保存数据就OK了，一气呵成，对于静态网页就不过多的说明了，还是比较简单的~
影评爬虫代码
import requests
import parsel
import time
for page
in range(0, 3000, 20):
time
.sleep
(1)
url
= 'https://movie.douban.com/subject/25907124/reviews'
headers
= {
'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9',
'Host': 'movie.douban.com',
'Referer': 'https: // movie.douban.com / subject / 26754233 / reviews?start = 140',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36',
}
response
= requests
.get
(url
=url
, headers
=headers
)
selector
= parsel
.Selector
(response
.text
)
data
= selector
.css
('#content .article .review-list .short-content::text').getall
()
for i
in data
:
a
= i
.strip
().replace
('\n', '').replace
(')', '').replace
('(', '')
with open('姜子牙影评' + '.txt', mode
='a', encoding
='utf-8') as f
:
f
.write
(a
)
f
.write
('\n')
print(a
)
词云代码
import jieba
import wordcloud
import imageio
py
= imageio
.imread
(r
"D:\python\demo\姜子牙豆瓣影评\四不象.png")
f
= open(r
'D:\python\demo\姜子牙豆瓣影评\姜子牙影评.txt', encoding
='utf-8')
txt
= f
.read
()
txt_list
= jieba
.lcut
(txt
)
string
= ' '.join
(txt_list
)
wc
= wordcloud
.WordCloud
(
width
=1000,
height
=700,
background_color
='white',
font_path
='msyh.ttc',
mask
=py
,
scale
=15,
stopwords
={' ', '没有', '真的', '还是', '就是', '如果', '不是', '什么', '一个', '这部', '但是', '觉得', '有点', '虽然', '我们'},
)
wc
.generate
(string
)
wc
.to_file
(r
'D:\python\demo\姜子牙豆瓣影评\out.png')
