如何用python爬取最新电影(使用python实现抓取腾讯视频所有电影的爬虫)
类别:脚本大全 浏览量:2284
时间:2021-10-16 00:37:04 如何用python爬取最新电影
使用python实现抓取腾讯视频所有电影的爬虫用python实现的抓取腾讯视频所有电影的爬虫
|
# -*- coding: utf-8 -*- import re import urllib2 from bs4import beautifulsoup import string, time import pymongo num = 0 #全局变量,电影数量 m_type = u'' #全局变量,电影类型 m_site = u 'qq' #全局变量,电影网站 #根据指定的url获取网页内容 def gethtml(url): req = urllib2.request(url) response = urllib2.urlopen(req) html = response.read() return html #从电影分类列表页面获取电影分类 def gettags(html): global m_type soup = beautifulsoup(html) #过滤出分类内容 #print soup #<ulclass="clearfix _group" gname="mi_type" gtype="1"> tags_all = soup.find_all( 'ul' , { 'class' : 'clearfix _group' , 'gname' : 'mi_type' }) #print len(tags_all), tags_all #print str(tags_all[1]).replace('\n','') #<a _hot="tag.sub" class="_gtag _hotkey" href="http://v.qq.com/list/1_0_-1_-1_1_0_0_20_0_-1_0.html" title="动作" tvalue="0">动作</a> re_tags = r '<a _hot=\"tag\.sub\" class=\"_gtag _hotkey\" href=\"(.+?)\" title=\"(.+?)\" tvalue=\"(.+?)\">.+?</a>' p = re. compile (re_tags, re.dotall) tags = p.findall( str (tags_all[ 0 ])) if tags: tags_url = {} #print tags for tagin tags: tag_url = tag[ 0 ].decode( 'utf-8' ) #print tag_url m_type = tag[ 1 ].decode( 'utf-8' ) tags_url[m_type] = tag_url else : print "not find" return tags_url #获取每个分类的页数 def get_pages(tag_url): tag_html = gethtml(tag_url) #liclass="paginator soup = beautifulsoup(tag_html) #过滤出标记页面的html #print soup #<liclass="mod_pagenav" id="pager"> li_page = soup.find_all( 'li' , { 'class' : 'mod_pagenav' , 'id' : 'pager' }) #print li_page #len(li_page), li_page[0] #<aclass="c_txt6" href="http://v.qq.com/list/1_2_-1_-1_1_0_24_20_0_-1_0.html" title="25"><span>25</span></a> re_pages = r '<a class=.+?><span>(.+?)</span></a>' p = re. compile (re_pages, re.dotall) pages = p.findall( str (li_page[ 0 ])) #print pages if len (pages) > 1 : return pages[ - 2 ] else : return 1 def getmovielist(html): soup = beautifulsoup(html) #<ulclass="mod_list_pic_130"> lis = soup.find_all( 'ul' , { 'class' : 'mod_list_pic_130' }) #print lis for li_htmlin lis: li_html = str (li_html).replace( '\n' ,'') #print li_html getmovie(li_html) def getmovie(html): global num global m_type global m_site re_movie = r '<li><a class=\"mod_poster_130\" href=\"(.+?)\" target=\"_blank\" title=\"(.+?)\"><img.+?</li>' p = re. compile (re_movie, re.dotall) movies = p.findall(html) if movies: conn = pymongo.connection( 'localhost' , 27017 ) movie_db = conn.dianying playlinks = movie_db.playlinks #print movies for moviein movies: #print movie num + = 1 print "%s : %d" % ( "=" * 70 , num) values = dict ( movie_title = movie[ 1 ], movie_url = movie[ 0 ], movie_site = m_site, movie_type = m_type ) print values playlinks.insert(values) print "_" * 70 num + = 1 print "%s : %d" % ( "=" * 70 , num) #else: # print"not find" def getmovieinfo(url): html = gethtml(url) soup = beautifulsoup(html) #pack pack_album album_cover lis = soup.find_all( 'li' , { 'class' : 'pack pack_album album_cover' }) #print lis[0] #<a href="http://www.tudou.com/albumplay/9nyofxc_lhi/32jqhikjyki.html" target="new" title="《血滴子》独家纪录片" wl="1"> </a> re_info = r '<a href=\"(.+?)\" target=\"new\" title=\"(.+?)\" wl=\".+?\"> </a>' p_info = re. compile (re_info, re.dotall) m_info = p_info.findall( str (lis[ 0 ])) if m_info: return m_info else : print "not find movie info" return m_info def insertdb(movieinfo): global conn movie_db = conn.dianying_at movies = movie_db.movies movies.insert(movieinfo) if __name__ = = "__main__" : global conn tags_url = "http://v.qq.com/list/1_-1_-1_-1_1_0_0_20_0_-1_0.html" #print tags_url tags_html = gethtml(tags_url) #print tags_html tag_urls = gettags(tags_html) #print tag_urls for urlin tag_urls.items(): print str (url[ 1 ]).encode( 'utf-8' ) #,url[0] maxpage = int (get_pages( str (url[ 1 ]).encode( 'utf-8' ))) print maxpage for xin range ( 0 , maxpage): #http://v.qq.com/list/1_0_-1_-1_1_0_0_20_0_-1_0.html m_url = str (url[ 1 ]).replace( '0_20_0_-1_0.html' ,'') movie_url = "%s%d_20_0_-1_0.html" % (m_url, x) print movie_url movie_html = gethtml(movie_url.encode( 'utf-8' )) #print movie_html getmovielist(movie_html) time.sleep( 0.1 ) |
总结
以上所述是小编给大家介绍的使用python实现抓取腾讯视频所有电影的爬虫,希望对大家有所帮助,如果大家有任何疑问欢迎给我留言,小编会及时回复大家的!
原文链接:https://blog.csdn.net/qq_40196321/article/details/89190327
您可能感兴趣
- python爬取豆瓣评分排行榜(Python爬虫——爬取豆瓣电影Top250代码实例)
- python爬虫入门代码(python爬虫基础教程:requests库二代码实例)
- python爬虫并保存excel实例(Python实现爬取亚马逊数据并打印出Excel文件操作示例)
- python爬取数据总结(python3爬虫学习之数据存储txt的案例详解)
- python获取天气源(Python3爬虫之自动查询天气并实现语音播报)
- python爬虫怎么设置代理ip(python爬虫简单的添加代理进行访问的实现代码)
- python 爬虫招聘(Python3获取拉勾网招聘信息的方法实例)
- python爬虫第一本书(我用Python抓取了7000 多本电子书案例详解)
- python爬取在线评论(Python爬虫实现爬取百度百科词条功能实例)
- python网络爬虫案例实战(python爬取cnvd漏洞库信息的实例)
- python实现网络爬虫的步骤(Python实现的爬取小说爬虫功能示例)
- python网页自动化selenium(python利用selenium进行浏览器爬虫)
- 如何查看python beautifulsoup(Python爬虫beautifulsoup4常用的解析方法总结)
- python爬虫书籍经典(Python利用lxml模块爬取豆瓣读书排行榜的方法与分析)
- 爬虫为什么被封了(详解爬虫被封的问题)
- python爬虫request方法介绍(详解Python3网络爬虫二:利用urllib.urlopen向有道翻译发送数据获得翻译结果)
- 苹果15价格(苹果15价格512g官网)
- 春节放假几天(春节放假几天2023法定几天)
- 今天 3月13日,31年前,一个英雄少年感动了中国(今天3月13日31年前)
- 你好,新成理人丨成都理工大学2019级新生开学典礼隆重举行(新成理人丨成都理工大学2019级新生开学典礼隆重举行)
- 这部民警编演的红色话剧,讲述了一个不断追寻的故事(这部民警编演的红色话剧)
- 日本菜有什么好吃(日本菜有什么好吃的做法)
热门推荐
- 小程序ui设计样式(AmazeUI 平滑滚动效果的示例代码)
- 织梦tag标签路径(如何使用织梦tag列表调用自定义字段附加字段?)
- css cursor鼠标效果
- python scrapy 框架原理(一步步教你用python的scrapy编写一个爬虫)
- 用python如何写tkinter(浅谈python3.6的tkinter运行问题)
- docker容器基础入门认知网络篇(Docker 容器生命周期 架构 以及和VM之间的差异详解)
- sqlserver带参数的存储过程(SQL Server 日期和时间的内部存储过程)
- html5基础知识入门(萌新HTML5 入门指南二)
- amaze ui使用教程(Amaze UI 文件选择域的示例代码)
- thinkphp从模板自定义标签(Thinkphp5.0框架视图view的循环标签用法示例)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9