模拟退火

模拟退火启发式在每一步都会考虑当前状态s的某邻态${\displaystyle s^{*}}$，并以概率决定是否移动到状态${\displaystyle s^{*}}$。概率最终引导系统进入低能状态。这步骤一般会重复进行，直到系统达到满足需求的状态，或达到预设的计算量。

解的优化包括计算问题状态的邻域，即由保守改变现状态产生的新状态。例如，在旅行推销员问题中，状态是待访问城市的排列，状态的邻域是交换任意两城市产生的排列集合。良定义的到邻态的方法称为移动，不同移动会产生不同的邻态集。

爬山算法之类启发法逐个寻找更好的邻态来移动，并在无更好邻态时停止，显然这很容易陷入局部最优。元启发算法利用解的邻域作为探索解空间的一种方式，虽然更喜欢较好的邻态，但也接受较差的邻态，以免陷入局部最优。若运行时间够长，则可以找到全局最优。

从现状态s转移到候选的新状态${\displaystyle s_{\mathrm {new} }}$的概率由接受概率函数（acceptance probability function）${\displaystyle P(e,e_{\mathrm {new} },T)}$确定，其取决于两状态的能量${\displaystyle e=E(s),\ e_{\mathrm {new} }=E(s_{\mathrm {new} })}$，以及称作温度的全局时变参数T。转移到能量更小的状态的概率更大。概率函数P在${\displaystyle e_{\mathrm {new} }<e}$时也是正的，这可以防止算法陷入局部最优。

T趋近于0时，若${\displaystyle e_{\mathrm {new} }>e}$，概率${\displaystyle P(e,e_{\mathrm {new} },T)}$也要趋近于0或某正值。对足够小的T，系统会越来越倾向于“下山”（向低能值移动）而避免“上山”。${\displaystyle T=0}$时，程序将简化为贪心算法，只进行下山转移。

在模拟退火的原始描述中，${\displaystyle e_{\mathrm {new} }<e}$时概率${\displaystyle P(e,e_{\mathrm {new} },T)=1}$，即无论温度如何，程序找到下山的方法时总会下山。许多模拟退火算法的描述和实现仍将此条件作为方法定义的一部分，但这条件实际上并非必须。

P函数通常是这样选择的：当差值${\displaystyle e_{\mathrm {new} }-e}$增加时，接受较小上山转移的概率就会比较大的更大。不过，在满足上述要求的前提下，这要求并非绝对必要。

鉴于这些特性，温度T在控制系统状态s演化方面起到关键作用，因为它对系统能量变化非常敏感。确切地说，T的大小决定着s演化敏感的“粒度”。

快

慢

冷却时间对模拟退火性能的影响。待解决问题是重新排列一幅图像的像素，使某势能函数最小，它会使较近的相似颜色相互吸引，较远的则相斥，基本移动是像素交换位置。快速冷却（左）与较慢冷却（右）时，结果分别类似于无定形体与晶体。

算法名称与灵感要求嵌入一个与温度有关的有趣特征。开始时，温度T被设为一个较大值（或无穷大），按用户指定的退火历程，每次迭代降温，但必须在一定时间预算内结束为${\displaystyle T=0}$。这样，预计系统最初会在搜索空间中包含良好解的广阔区域内游荡，忽略能量函数的微小特征；然后，向能量更低的区域漂移，最后根据梯度下降法启发式向下移动。

对任意给定的有限问题，随着退火历程延长，模拟退火算法以全局最优解终止的概率趋近于1。[11]但这理论结果并不很有用，因为确保显著成功概率的耗时通常大于暴力搜索整个解空间的耗时。[12]

由一个产生函数从当前解产生一个位于解空间的新解，并定义一个足够大的数值作为初始温度。

迭代过程是模拟退火算法的核心步骤，分为新解的产生和接受新解两部分：

1. 由一个产生函数从当前解产生一个位于解空间的新解；为便于后续的计算和接受，减少算法耗时，通常选择由当前新解经过简单地变换即可产生新解的方法，如对构成新解的全部或部分元素进行置换、互换等，注意到产生新解的变换方法决定了当前新解的邻域结构，因而对冷却进度表的选取有一定的影响。
2. 计算与新解所对应的目标函数差。因为目标函数差仅由变换部分产生，所以目标函数差的计算最好按增量计算。事实表明，对大多数应用而言，这是计算目标函数差的最快方法。
3. 判断新解是否被接受，判断的依据是一个接受准则，最常用的接受准则是Metropolis准则：若Δt′<0则接受S′作为新的当前解S，否则以概率exp（-Δt′/T）接受S′作为新的当前解S。
4. 当新解被确定接受时，用新解代替当前解，这只需将当前解中对应于产生新解时的变换部分予以实现，同时修正目标函数值即可。此时，当前解实现了一次迭代。可在此基础上开始下一轮试验。而当新解被判定为舍弃时，则在原当前解的基础上继续下一轮试验。

模拟退火算法与初始值无关，算法求得的解与初始解状态S（是算法迭代的起点）无关；模拟退火算法具有渐近收敛性，已在理论上被证明是一种以概率1收敛于全局最优解的全局优化算法；模拟退火算法具有并行性。

迭代过程的一般停止准则：温度T降低至某阈值时，或连续若干次迭代均未接受新解时，停止迭代，接受当前寻找的最优解为最终解。

在某个温度状态T下，当一定数量的迭代操作完成后，降低温度T，在新的温度状态下执行下一个批次的迭代操作。

模拟退火可建模为搜索图上的随机游走，其顶点是所有状态，边为候选的移动。neighbour()的基本要求是提供从初态到任何可能是全局最优态的足够短路径，这要求搜索图的直径足够小。以上面的旅行推销员问题为例，n = 20个城市的搜索空间有n! = 2,432,902,008,176,640,000（243亿亿）个状态，而每个顶点有${\displaystyle \sum _{k=1}^{n-1}k={\frac {n(n-1)}{2}}=190}$条边（来自n选2），图直径为${\displaystyle n-1}$。

要研究模拟退火算法在特定问题上的行为，可考虑算法实施过程中各种设计选择产生的转移概率。对搜索图中的每条边${\displaystyle (s,s')}$，转移概率定义为现态为s时转移到${\displaystyle s'}$的概率，取决于temperature()指定的当前温度、neighbour()生成的候选移动的顺序及接受概率函数P()（注意转移概率不是简单的${\displaystyle P(e,e',T)}$，因为候选转移是以序列测试的）。

neighbour()、P()、temperature()的指定是多余的，因为实践中通常会使用相同的接受函数P()，并根据具体问题调整其他函数。

在Kirkpatrick et al.的方法中，若${\displaystyle e'<e}$则接受概率函数${\displaystyle P(e,e',T)=1}$，否则为${\displaystyle \exp(-(e'-e)/T)}$。表面上看，这个公式是通过类比物理系统的转移来证明的；在${\displaystyle T=1}$且梅特罗波利斯-黑斯廷斯的提议分布对称时，对应梅特罗波利斯-黑斯廷斯算法。即使与梅特罗波利斯-黑斯廷斯算法中的提议分布类似的neighbour()函数不对称或根本不是概率分布，也常用于模拟退火。因此，转移概率同类似物理系统的转移概率并不对应，恒定温度T下的长期状态分布也不必同物理系统在任何温度下的热力平衡态分布有任何相似处。尽管如此，大多数模拟退火的描述都会假定原接受函数，而这种函数可能在许多模拟退火的实现中都是硬编码（hard-coded）的。

Moscato and Fontanari (1990)[13]与Dueck and Scheuer[14]分别提出，确定性更新（即不基于概率接受规则的）可加速优化，且不影响最终质量。Moscato and Fontanari通过观察“阈值更新”退火的类“比热”曲线得出结论：“在模拟退火算法中，Metropolis更新的随机性在寻找近优最小值的过程中没有发挥主要作用。”相反，他们认为“高温下成本函数景观的平滑化与冷却过程中最小值的逐步确定是模拟退火算法成功的基本要素。”后来，由于Dueck and Scheuer的命名，这种方法也称作“阈值接受法”。Franz, Hoffmann and Salamon (2001)表明，在一大类模拟成本/能量景观随机游走的算法中，确定性更新策略确实是最优策略。[15]

选择候选生成器neighbour()时，必须考虑到算法迭代几次后，现态的能量将低于随机状态。因此一般来说，生成器应偏向更接近目标状态${\displaystyle s'}$能量的邻域。这种启发式（也是梅特罗波利斯-黑斯廷斯算法的主要原理）往往会排除“非常好”与“非常坏”的转移，不过前者通常更少见，所以启发式往往相当有效。

例如，在上述旅行商问题中，低能旅行中交换两连续城市对能量（总距离）影响不大，而交换两任意城市更可能增加能量。因此，连续交换优于随机交换，尽管后者能提供更优路径（${\displaystyle n-1}$次交换，而非${\displaystyle n(n-1)/2}$次）。

启发式一个更准确的诠释是，应先尝试${\displaystyle P(E(s),E(s'),T)}$较大的邻态${\displaystyle s'}$。对上述“标准”接受函数P来说，这意味着${\displaystyle E(s')-E(s)}$在T或更小的数量级上因此在上述旅行商问题中，可用交换两随机城市的neighbour()，并设置两城市距离超过T时不予选择。

选择候选生成器neighbour()时，还必须尽量减少能量远低于所有邻态的“深”局部最优（或相连状态集）数，这种“能量函数盆地”可能会以较高概率（与盆地中状态数大致呈正比）与较长时间（与周围状态同盆地底部的能量差大致呈指数关系）困住模拟退火算法。

一般来说设计不出既能满足这一目标，又能优先处理能量相近的候选粒子的候选发生器。另一方面，往往可对生成器进行相对简单的修改，大大提高模拟退火的效率。例如，在旅行商问题中，不难找到两条长度几乎相等的路线${\displaystyle A,\ B}$，使得(1) ${\displaystyle A}$最优、(2) 将${\displaystyle A}$转换为${\displaystyle B}$的城市交换序列要经历比二者长得多的距离、(3) ${\displaystyle A}$ 可通过翻转（颠倒顺序）一组连续的城市序列变为${\displaystyle B}$。此例中，${\displaystyle A,\ B}$就处于不同的“盆地”中，但若生成器执行随机分段翻转，则将位于同一个盆地。

模拟退火的物理类比假设冷却速率足够低，当前状态的概率分布比任意时刻都接近热力平衡。 然而，弛豫时间（relaxation time，温度变化后恢复平衡耗时）很大程度上取决于能量函数的“地形”和当前温度。模拟退火算法中，弛豫时间还以非常复杂的方式取决于候选生成器。注意所有参数通常作为黑盒函数提供给模拟退火算法。因此，理想的冷却速度无法事先确定，只能根据经验分析具体问题。自适应模拟退火算法将冷却历程同搜索进度联系起来，解决了这一问题。其他自适应法有热力学模拟退火，[16]会根据热力学定律，依两状态能量差自动调整每步的温度。