是否可以使用 DEAP(http://deap.readthedocs.io/en/master/)与 Spark 集群来映射适应度评估函数。我想运行 GA,但适应度函数相当长,我计划将其分布在 Spark 集群上。
你应该看看使用多个处理器DEAP 文档中的部分和此处example。他们解释了如何更换mapDEAP 中的函数toolbox by a map您选择的功能。
要使用 pyspark 映射适应度评估函数,您可以执行以下操作:
from pyspark import SparkContext
sc = SparkContext(appName="DEAP")
def sparkMap(algorithm, population):
return sc.parallelize(population).map(algorithm)
toolbox.register("map", sparkMap)
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)