python爬虫怎么爬取vip资源(Python网络爬虫之爬取微博热搜)
类别:脚本大全 浏览量:984
时间:2021-10-18 11:13:57 python爬虫怎么爬取vip资源
Python网络爬虫之爬取微博热搜微博热搜的爬取较为简单,我只是用了lxml和requests两个库
url= https://s.weibo.com/top/summary?refer=top_hot&topnav=1&wvr=6
1.分析网页的源代码:右键--查看网页源代码.
从网页代码中可以获取到信息
(1)热搜的名字都在<td class="td-02">
的子节点<a>里
(2)热搜的排名都在<td class=td-01 ranktop>
的里(注意置顶微博是没有排名的!)
(3)热搜的访问量都在<td class="td-02">
的子节点<span>里
2.requests获取网页
(1)先设置url地址,然后模拟浏览器(这一步可以不用)防止被认出是爬虫程序。
|
###网址 url = "https://s.weibo.com/top/summary?refer=top_hot&topnav=1&wvr=6" ###模拟浏览器,这个请求头windows下都能用 header = { 'user-agent' : 'mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/73.0.3683.103 safari/537.36' } |
(2)利用req uests库的get()和lxml的etr ee()来获 取网页代码
|
###获取html页面 html = etree.html(requests.get(url,headers = header).text) |
3.构造xpath路径
上面第一步中三个xath路径分别是:
|
affair = html.xpath( '//td[@class="td-02"]/a/text()' ) rank = html.xpath( '//td[@class="td-01 ranktop"]/text()' ) view = html.xpath( '//td[@class="td-02"]/span/text()' ) |
xpath的返回结果是列表,所以affair、rank、view都是字符串列表
4.格式化输出
需要注意的是affair中多了一个置顶热搜,我们先将他分离出来。
|
top = affair[ 0 ] affair = affair[ 1 :] |
这里利用了python的切片。
|
print ( '{0:<10}\t{1:<40}' . format ( "top" ,top)) for i in range ( 0 , len (affair)): print ( "{0:<10}\t{1:{3}<30}\t{2:{3}>20}" . format (rank[i],affair[i],view[i], chr ( 12288 ))) |
这里还是没能做到完全对齐。。。
5.全部代码
|
###导入模块 import requests from lxml import etree ###网址 url = "https://s.weibo.com/top/summary?refer=top_hot&topnav=1&wvr=6" ###模拟浏览器 header = { 'user-agent' : 'mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/73.0.3683.103 safari/537.36' } ###主函数 def main(): ###获取html页面 html = etree.html(requests.get(url,headers = header).text) rank = html.xpath( '//td[@class="td-01 ranktop"]/text()' ) affair = html.xpath( '//td[@class="td-02"]/a/text()' ) view = html.xpath( '//td[@class="td-02"]/span/text()' ) top = affair[ 0 ] affair = affair[ 1 :] print ( '{0:<10}\t{1:<40}' . format ( "top" ,top)) for i in range ( 0 , len (affair)): print ( "{0:<10}\t{1:{3}<30}\t{2:{3}>20}" . format (rank[i],affair[i],view[i], chr ( 12288 ))) main() |
结果展示:
总结
以上所述是小编给大家介绍的python网络爬虫之爬取微博热搜,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对开心学习网网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!原文链接:http://www.cnblogs.com/JustNo/p/10726802.html
您可能感兴趣
- python爬虫怎么设置代理ip(python爬虫简单的添加代理进行访问的实现代码)
- python读取txt文件每一行数据(python读取txt文件并取其某一列数据的示例)
- 学python从零基础到开发游戏(python开发游戏的前期准备)
- python最火开源项目(5月份Github上Python开源项目排行)
- python3.7不兼容pywinauto(浅谈python编译pyc工程--导包问题解决)
- python转图片为字符图(Python实现图片转字符画的代码实例)
- python密码错误3次不能再输入(Python实现账号密码输错三次即锁定功能简单示例)
- python编程ide工具(这6款Python IDE&代码编辑器,你都用过吗?)
- python闭包的讲解(详解python函数的闭包问题内部函数与外部函数详述)
- python time模块是什么(python中时间模块的基本使用教程)
- python模块化打包(python使用Paramiko模块实现远程文件拷贝)
- python中startswith使用教程(Python os.access用法实例)
- python最基本的编程工具(5款Python程序员高频使用开发工具推荐)
- python面向对象的介绍(Python面向对象思想与应用入门教程类与对象)
- python微信防封(深入学习微信网址链接解封的防封原理visit_type)
- python的mqtt循环发布(python 发送和接收ActiveMQ消息的实例)
- 为什么现在年轻人越来越喜欢买衣服(为什么现在年轻人越来越喜欢买衣服穿)
- 怎么做好SEO(怎么做好seo内容优化)
- 冬季钓鱼子线用 长 还是 短(冬季钓鱼子线用)
- 鱼竿 夏钓短,冬钓长 ,一定是这样 认清优缺点在选竿(鱼竿夏钓短冬钓长)
- 鲢鳙钓底还是钓浮 流水的水域应怎样做钓(鲢鳙钓底还是钓浮)
- 入秋后的第二场苹果发布会来了 全新M1系列芯片登场(入秋后的第二场苹果发布会来了)
热门推荐
- python numpy矩阵详解(基于Numpy.convolve使用Python实现滑动平均滤波的思路详解)
- laravel队列失败原理(Laravel第三方包报class not found的解决方法)
- 如何看http状态码(10个常见的HTTP状态码详解)
- 如何用python处理excel表格(零基础使用Python读写处理Excel表格的方法)
- css图片水平旋转动画(css实现图片横向排列滚动效果)
- canvas绘制动态线条(5分钟实现Canvas鼠标跟随动画背景)
- bootstrap怎么用虚线框(Bootstrap网页布局网格的实现)
- 自己搭建域名解析服务器(apache 二级域名解析实现方法)
- VS中Code Snippet 代码段
- python模块使用方法(详解python的argpare和click模块小结)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9