• 欢迎访问搞代码网站,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站!
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏搞代码吧

按行读取内存不够?如何用python解决?

python 搞java代码 3年前 (2022-05-21) 12次浏览 已收录 0个评论

当我们需要读取一个较大的文件,但是电脑的内存比较小怎么办?要是小文件又该怎么办?今天就为大家带来几个按行读取文件在Python如何巧妙解决的办法。

第一种:readline()

<p style="line-height: 1.75em"><span>file = open("sample.txt") 
while 1:
    line = file.readline()
    if not line:
        break
    pass # do somethingfile.close()<br></span></p>

www#gaodaima.com来源gao*daima.com搞@代#码网搞代码

一行行得从文件读数据,这样是比较慢的,但是节约内存;

测试读10M的sample.txt文件,每秒大约读32000行;

第二种:fileinput

<p style="line-height: 1.75em"><span>import fileinput 
for line in fileinput.input("sample.txt"):
    pass<br></span></p>

写法稍微简单,不过测试以后发现每秒只能读13000行数据,效率上比上一种方法慢了两倍多;

第三种:readlines()

<p style="line-height: 1.75em"><span>file = open("sample.txt") 
while 1:
    lines = file.readlines(100000)
    if not lines:
        break
    for line in lines:
        pass # do something
file.close()<br></span></p>

用同样的数据测试,它每秒可以读96900行数据。效率是第一种方法的3倍,第二种方法的7倍。

第四种:文件迭代器

每次只读取和显示一行,读取大文件时如下:

<p style="line-height: 1.75em"><span>file = open("sample.txt") 
for line in file:
    pass # do something
file.close()<br></span></p>

以上就是Python中按行读取目录下文件名的一些方法,需要的小伙伴可以参考下。

来源:搞代码网:原文地址:https://www.gaodaima.com


搞代码网(gaodaima.com)提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected],我们会在看到邮件的第一时间内为您处理,或直接联系QQ:872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:按行读取内存不够?如何用python解决?
喜欢 (0)
[搞代码]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址