为 scipy.optimize.fmin （和其他）设置收敛标准

我正在开展一项优化任务，其中成本函数评估非常昂贵，并且可以容忍一些错误。我正在使用 scipy.optimize 中的一些预先打包的 scipy 方法来开始。我合作的第一个是fmin，它实现了 nelder mead 单纯形算法。

该函数有两个与收敛相关的参数 xtol 和 ftol，其中（据我了解) 指定收敛标准，其中如果 x 或 f（分别是参数集和成本）在迭代中的变化小于 xtol 或 rtol，则函数返回。

但是，由于成本函数对我来说非常昂贵，因此我还希望能够指定一个成本阈值，如果发现成本低于阈值的点，它将立即返回。

是否可以为 scipy.optimize.fmin 指定此阈值？

额外问题：我还没有详细研究许多其他方法，但看起来这些方法也不存在这个阈值选项。这是 scipy 优化方法的典型吗？尝试贡献此功能对我来说有价值吗？

对于任何可以表示为函数的标准，都可以停止迭代x。这里的想法是劫持callback方法并使用异常进行流量控制。以下是利用这个想法的两个解决方案：

from scipy.optimize import fmin_bfgs
import numpy as np
f = lambda x: np.linalg.norm(x**2)
x0 = np.random.rand(100)

解决方案一：

global result

class SmallEnoughException(Exception):
    pass

def check_conv_criteria(xk):
    global result
    if np.linalg.norm(xk) < 0.1:
        result = xk
        raise SmallEnoughException()

try:
    x, _, _ = fmin_bfgs(f, x0, callback=check_conv_criteria)
except SmallEnoughException:
    x = result

解决方案2：

class StopOptimizingException(Exception):
    pass

class CallbackCollector:

    def __init__(self, f, thresh):
        self._f  = f
        self._thresh = thresh

    def __call__(self, xk):
        if self._f(xk) < self._thresh:
            self.x_opt = xk
            raise StopOptimizingException()

try:
    cb = CallbackCollector(f, thresh=0.2)
    x, _, _ = fmin_bfgs(f, x0, callback=cb)
except StopOptimizingException:
    x = cb.x_opt