如何使用 Python urllib2 下载分块数据

2023-11-29

我正在尝试使用 Python 2 从服务器下载一个大文件:

req = urllib2.Request("https://myserver/mylargefile.gz")
rsp = urllib2.urlopen(req)
data = rsp.read()

服务器发送带有“Transfer-Encoding: chunked”的数据,我只得到一些二进制数据,这些数据无法通过gunzip解包。

我是否必须迭代多个 read() ?还是多次请求?如果是这样,它们必须是什么样子?

注意:我试图仅使用 Python 2 标准库来解决问题,而不使用 urllib3 或 requests 等附加库。这可能吗?


来自 urllib2.urlopen 的 python 文档:

需要注意的是:如果省略了 size 参数,则 read() 方法 负数,直到数据流结束时才可能读取;没有 确定来自套接字的整个流的好方法 在一般情况下阅读。

因此,循环读取数据:

req = urllib2.Request("https://myserver/mylargefile.gz")
rsp = urllib2.urlopen(req)
data = rsp.read(8192)
while data:
   # .. Do Something ..
   data = rsp.read(8192)
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何使用 Python urllib2 下载分块数据 的相关文章

随机推荐