将DEAP(遗传算法库)与spark结合使用

2023-12-11

是否可以使用 DEAP(http://deap.readthedocs.io/en/master/)与 Spark 集群来映射适应度评估函数。我想运行 GA,但适应度函数相当长,我计划将其分布在 Spark 集群上。


你应该看看使用多个处理器DEAP 文档中的部分和此处example。他们解释了如何更换mapDEAP 中的函数toolbox by a map您选择的功能。

要使用 pyspark 映射适应度评估函数,您可以执行以下操作:

from pyspark import SparkContext

sc = SparkContext(appName="DEAP")

def sparkMap(algorithm, population):
    return sc.parallelize(population).map(algorithm)

toolbox.register("map", sparkMap)
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

将DEAP(遗传算法库)与spark结合使用 的相关文章

随机推荐