python正则匹配抓取豆瓣电影链接和评论代码分享

1093次阅读  |  发布于5年以前

复制代码 代码如下:

import urllib.request
import re
import time

def movie(movieTag):

tagUrl=urllib.request.urlopen(url)  
tagUrl_read = tagUrl.read().decode('utf-8')  
return tagUrl_read

def subject(tagUrl_read):

'''   
    这里还存在问题:  
    ①这只针对单独的一页进行排序,而没有对全部页面的电影进行排序  
    ②下次更新添加电影链接,考虑添加电影海报  
    ③需要追加列表  
    ④导入到本地txt或excel中  
    ⑤在匹配电影名字时是否可以同时匹配链接与名字、评分、评论组成数组  
    ⑥  
'''  

正则表达式匹配电影的名字(链接)、评分与评论

nameURL = re.findall(r'(http://movie.douban.com/subject/[0-9.]+)\/"\s+title="(.+)"',tagUrl_read)  
scoreURL = re.findall(r'<span\s+class="rating_nums">([0-9.]+)<\/span>',tagUrl_read)  
evaluateURL = re.findall(r'<span\s+class="pl">\\((\w+)人评价\\)<\/span>',tagUrl_read)  
movieLists = list(zip(nameURL,scoreURL,evaluateURL))  
newlist.extend(movieLists)  
return newlist

用quote处理特殊(中文)字符

movie_type = urllib.request.quote(input('请输入电影类型(如剧情、喜剧、悬疑):'))
page_end=int(input('请输入搜索结束时的页码:'))
num_end=page_end20
num=0
page_num=1
newlist=[]
while num<num_end:
url=r'http://movie.douban.com/tag/%s?start=%d'%(movie_type,num)
movie_url = movie(url)
subject_url=subject(movie_url)
num=page_num
20
page_num+=1
else:

使用sorted函数对列表进行排列,reverse参数为True时升序,默认或False时为降序, key=lambda还不是很明白这里的原理

movieLIST = sorted(newlist, key=lambda movieList : movieList[1],reverse = True)  
for movie in movieLIST:  
    print(movie)  

time.sleep(3)

print('结束')

Copyright© 2013-2020

All Rights Reserved 京ICP备2023019179号-8