如大家所了解的,模拟退火算法由 N. Metropolis 等人于 1953 年提出,简称 SA(Simulated Annealing)。它是对局部搜索算法的一种扩展,模拟了金属从高温降到低温的过程中,分子状态逐渐趋于稳定的过程。

退火是一种物理过程,当金属物体在加热至一定温度后,它的所有分子在其状态空间中自由运动,处于高能量状态。随着温度的下降,这些分子逐渐停留在低能量状态,此时结构趋于稳定。在退火过程中,所有的分子状态并不是完全相同的,而是有一定的概率处于高能量状态或低能量状态。温度越高,分子处于高能量状态的概率就越大;温度越低,分子处于低能量状态的概率就越大。
模拟退火算法便是基于这一点,它在寻找最优解的过程中,有概率的接受比当前最优解差一点的次等解,这个概率值随着搜索深度的增加逐渐减少。如果每一步都选择当前最优解,它就变成了贪心算法,而贪心算法极有可能陷入局部最优。模拟退火算法接受次等解的过程中,随着搜索深度的增加,次等解有概率超过局部最优解,从而跳出局部最优,获得全局最优解。
美中不足的是,模拟退火算法为了获得全局最优解,要求较高的初始温度,要求退火的速度足够慢,要求较低的终止温度和各种温度下足够多次的抽样,这就使得优化过程长,特别是对于规模大的实际问题。因此,优化效率不高是标准模拟退火算法的主要缺点。其次,由于模拟退火算法对初始温度很敏感,参数的选择也是应用该算法的难题之一。