python读取文件的正确方法(强悍的Python读取大文件的解决方案)
类别:脚本大全 浏览量:1938
时间:2022-03-28 01:03:54 python读取文件的正确方法
强悍的Python读取大文件的解决方案Python 环境下文件的读取问题,请参见拙文 Python基础之文件读取的讲解
这是一道著名的 Python 面试题,考察的问题是,Python 读取大文件和一般规模的文件时的区别,也即哪些接口不适合读取大文件。
1. read() 接口的问题
|
f = open (filename, 'rb' ) f.read() |
我们来读取 1 个 nginx 的日至文件,规模为 3Gb 大小。read() 方法执行的操作,是一次性全部读入内存,显然会造成:
MemoryError
...
也即会发生内存溢出。
2. 解决方案:转换接口
- (1)readlines() :读取全部的行,构成一个 list,实践表明还是会造成内存的问题;
|
for line in f.reanlines(): ... |
- (2)readline():每次读取一行,
|
while True : line = f.readline() if not line: break |
- (3)read(1024):重载,指定每次读取的长度
|
while True : block = f.read( 1024 ) if not block: break |
3. 真正 Pythonic 的方法
真正 Pythonci 的方法,使用 with 结构:
|
with open (filename, 'rb' ) as f: for line in f: <do something with the line> |
对可迭代对象 f,进行迭代遍历:for line in f
,会自动地使用缓冲IO(buffered IO)以及内存管理,而不必担心任何大文件的问题。
There should be one – and preferably only one – obvious way to do it.
Reference
How to read large file, line by line in python
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对开心学习网的支持。如果你想了解更多相关内容请查看下面相关链接
原文链接:https://blog.csdn.net/lanchunhui/article/details/51581540
您可能感兴趣
- python中三种基本的数值类型(python基础知识一变量与简单数据类型详解)
- python发送微信消息脚本(python实现微信定时每天和女友发送消息)
- python3常用内建函数(Python3中函数参数传递方式实例详解)
- pythonrequests爬虫使用教程(Python 通过requests实现腾讯新闻抓取爬虫的方法)
- python操作json库(Python将json文件写入ES数据库的方法)
- python序列定义(详解Python3序列赋值、序列解包)
- python爬虫爬取网页信息教程(python爬虫爬取微博评论案例详解)
- java怎么调用支付宝的扫码支付(python实现银联支付和支付宝支付接入)
- python炫酷烟花源代码(python实现浪漫的烟花秀)
- python爬虫开源代码(Python实现的文轩网爬虫完整示例)
- python判断对象是否是某一类型(Python判断对象是否相等及eq函数的讲解)
- pythonbug生成图片(python实现海螺图片的方法示例)
- python面向对象基本思想(详解Python:面向对象编程)
- python中startswith使用教程(Python os.access用法实例)
- 超简单使用Python换脸实例(超简单使用Python换脸实例)
- python函数参数讲解(Python高级特性与几种函数的讲解)
- 为什么现在社会越来越卷了(现在社会为什么发展那么快呢)
- 直播带货能赚到很多钱吗(直播带货能赚到很多钱吗现在)
- 做网红真的很能赚钱吗(做网红真的很能赚钱吗)
- 10句英语常用(英语常用900句)
- 爱情能当饭吃吗(爱情能当饭吃吗说说)
- 白T恤穿法(白t恤)
热门推荐
- mac更改mysql密码(Mac下mysql 8.0.22 找回密码的方法)
- 用html5的canvas绘制剪裁图像(Html5 canvas画图白板踩坑)
- MVC中数据验证
- css的水滴效果(CSS制作各种样式的彩虹效果)
- python解析视频源码(基于python实现高速视频传输程序)
- MySQL 使用事件(Events)完成计划任务(MySQL 使用事件Events完成计划任务)
- sqlserver日志被删除(sql server日志处理不当造成的隐患详解)
- unix进程空间的区段(Unix/Linux fork隐藏的开销)
- python生成密码字典教程(Python利用字典破解WIFI密码的方法)
- svn冲突怎么解决
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9