我有 Dask 来处理无法放入内存的大量向量,并使用 scikit-learn cosine_similarity 来计算这些向量之间的余弦相似度,即:
import dask.array as da
from sklearn.metrics.pairwise import cosine_similarity
vectors = da.from_array(vectors, 10000)
sims_mat = cosine_similarity(vectors)
工作正常,但我不确定这样我是否有使用 Dask 的任何好处,或者我应该为 dask 数组寻找余弦相似函数
在我看来这应该没问题,因为如果你检查两者的文档dask and sklearn,你会发现两者都是建立在上面的numpy,它使用并行处理。
如果你真的只想使用 dask,你可以查看这个 repo:https://pypi.python.org/pypi/dask-distance https://pypi.python.org/pypi/dask-distance
它包括余弦相似度函数。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)