与 Matlab 相比，Numpy 加载 csv 太慢

我发布这个问题是因为我想知道我是否做了一些非常错误的事情才能得到这个结果。

我有一个中等大小的 csv 文件，我尝试使用 numpy 来加载它。为了便于说明，我使用 python 创建了该文件：

import timeit
import numpy as np

my_data = np.random.rand(1500000, 3)*10
np.savetxt('./test.csv', my_data, delimiter=',', fmt='%.2f')

然后，我尝试了两种方法：numpy.genfromtxt、numpy.loadtxt

setup_stmt = 'import numpy as np'
stmt1 = """\
my_data = np.genfromtxt('./test.csv', delimiter=',')
"""
stmt2 = """\
my_data = np.loadtxt('./test.csv', delimiter=',')
"""

t1 = timeit.timeit(stmt=stmt1, setup=setup_stmt, number=3)
t2 = timeit.timeit(stmt=stmt2, setup=setup_stmt, number=3)

结果表明t1 = 32.159652940464184，t2 = 52.00093725634724.
然而，当我尝试使用 matlab 时：

tic
for i = 1:3
    my_data = dlmread('./test.csv');
end
toc

结果显示：经过的时间为3.196465秒.

我知道加载速度可能存在一些差异，但是：

1. 这比我预期的要多得多；
2. 难道 np.loadtxt 应该比 np.genfromtxt 更快吗？
3. 我还没有尝试过 python csv 模块，因为加载 csv 文件是我经常做的事情，并且使用 csv 模块，编码有点冗长......但如果这是唯一的方法，我很乐意尝试它。现在我更担心是不是我做错了什么。

任何意见将不胜感激。预先非常感谢！

是的，读书csv文件到numpy是相当慢的。代码路径中有很多纯Python。这些天，即使我使用纯numpy我还在用pandas for IO:

>>> import numpy as np, pandas as pd
>>> %time d = np.genfromtxt("./test.csv", delimiter=",")
CPU times: user 14.5 s, sys: 396 ms, total: 14.9 s
Wall time: 14.9 s
>>> %time d = np.loadtxt("./test.csv", delimiter=",")
CPU times: user 25.7 s, sys: 28 ms, total: 25.8 s
Wall time: 25.8 s
>>> %time d = pd.read_csv("./test.csv", delimiter=",").values
CPU times: user 740 ms, sys: 36 ms, total: 776 ms
Wall time: 780 ms

或者，在像这样的足够简单的情况下，您可以使用类似于 Joe Kington 所写的内容here https://stackoverflow.com/questions/8956832/python-out-of-memory-on-large-csv-file-numpy:

>>> %time data = iter_loadtxt("test.csv")
CPU times: user 2.84 s, sys: 24 ms, total: 2.86 s
Wall time: 2.86 s

还有沃伦·韦凯瑟的文本阅读器 https://github.com/WarrenWeckesser/textreader图书馆，以防万一pandas依赖性太重：

>>> import textreader
>>> %time d = textreader.readrows("test.csv", float, ",")
readrows: numrows = 1500000
CPU times: user 1.3 s, sys: 40 ms, total: 1.34 s
Wall time: 1.34 s