C#,动态规划(DP)模拟退火(Simulated Annealing)算法与源代码

1 模拟退火

*问题:**给定一个成本函数f:r^n-->r*,找到一个 n 元组,该元组最小化 f 的值。请注意,最小化函数值在算法上等同于最大化(因为我们可以将成本函数重新定义为 1-f)。 很多有微积分/分析背景的人可能都熟悉单变量函数的简单优化。例如,函数 f(x) = x^2 + 2x 可以通过将一阶导数设置为零来优化,从而获得产生最小值 f(-1) = -1 的解 x = -1 。这种技术适用于变量很少的简单函数。然而,通常情况下,研究人员对优化几个变量的函数感兴趣,在这种情况下,只能通过计算获得解。

一个困难的优化任务的极好例子是芯片平面规划问题。假设你在英特尔工作,你的任务是设计集成电路的布局。您有一组不同形状/大小的模块,以及可以放置模块的固定区域。你想要达到的目标有很多:最大化导线连接元件的能力,最小化净面积,最小化芯片成本,等等。考虑到这些,您创建了一个成本函数,取所有,比如说, 1000 个变量配置,并返回一个代表输入配置"成本"的实数值。我们称之为目标函数,因为目标是最小化它的值。 一个简单的算法是完全的空间搜索------我们搜索所有可能的配置,直到找到最小值。这对于变量很少的函数来说可能就足够了,但是我们想到的问题需要这样一个强力算法来玩 *O(n!)*。

由于这类问题和其他 NP 难问题的计算困难,许多优化试探法已经被开发出来,试图产生一个好的,尽管可能是次优的值。在我们的例子中,我们不一定需要找到一个严格的最优值------找到一个接近最优的值将满足我们的目标。一种广泛使用的技术是模拟退火,通过它我们引入了一定程度的随机性,有可能从一个更好的解转移到一个更差的解,试图逃离局部极小值并收敛到一个更接近全局最优的值。

模拟退火是基于冶金实践,通过这种实践,材料被加热到高温并冷却。在高温下,原子可能会不可预测地移动,通常会随着材料冷却成纯晶体而消除杂质。这是通过模拟退火优化算法复制的,能量状态对应于当前解。 在这个算法中,我们定义了一个初始温度和一个最低温度,初始温度通常设置为 1,最低温度的数量级为 10^-4.当前温度乘以某个分数α,然后降低,直到达到最低温度。对于每个不同的温度值,我们运行核心优化例程的次数是固定的。优化程序包括找到一个相邻解并以概率e^(f(c--f(n)】接受它,其中 c 是当前解而 n 是相邻解。通过对当前解施加微小的扰动来找到相邻解。这种随机性有助于避开优化启发式算法的常见陷阱------陷入局部极小值。通过潜在地接受一个比我们目前拥有的更差的最优解,并以与成本增加相反的概率接受它,算法更有可能收敛到全局最优。设计一个邻居函数是相当棘手的,必须在个案的基础上完成,但以下是在位置优化问题中寻找邻居的一些想法。

  • 在随机方向上将所有点移动 0 或 1 个单位
  • 随机移动输入元素
  • 交换输入序列中的随机元素
  • 置换输入序列
  • 将输入序列分成随机数量的段和置换段

一个警告是,我们需要提供一个初始解决方案,以便算法知道从哪里开始。这可以通过两种方式来实现:(1)使用关于问题的先验知识来输入良好的起点,以及(2)生成随机解。尽管生成随机解更糟糕,有时会抑制算法的成功,但对于我们对环境一无所知的问题,这是唯一的选择。

还有许多其他优化技术,尽管模拟退火是一种有用的随机优化启发式方法,适用于大型离散搜索空间,在这些空间中,随着时间的推移,最优性是优先的。下面,我包含了一个基于位置的模拟退火的基本框架(可能是模拟退火最适用的优化风格)。当然,成本函数、候选生成函数和邻居函数必须根据手头的具体问题来定义,尽管核心优化例程已经实现。

2 源程序(文本格式)

using System;

using System.Text;

namespace Legalsoft.Truffer.Algorithm

{

/// <summary>

/// 算法核心数据类

/// 含:方差系数均方根误差,配置参数(数组)

/// </summary>

public class Anneal_Solution

{

/// <summary>

/// 方差系数均方根误差

/// Coefficient of Variance Root Mean Squared Error

/// 默认初值0.0;不超过1.0;

/// </summary>

public double CVRMSE { get; set; } = 0.0;

/// <summary>

/// 配置参数(数组)

/// 整型数组;无初值(null);

/// </summary>

public int[] Config { get; set; } = null;

/// <summary>

/// (无参)默认构造函数

/// </summary>

public Anneal_Solution()

{

}

/// <summary>

/// (有参)构造函数

/// </summary>

/// <param name="CVRMSE">方差系数均方根误差</param>

/// <param name="configuration">配置参数(数组)</param>

public Anneal_Solution(double CVRMSE, int[] configuration)

{

this.CVRMSE = CVRMSE;

Config = configuration;

}

}

/// <summary>

/// 模拟退火算法

/// </summary>

public class Simulated_Annealing

{

private static Random rand { get; set; } = new Random((int)DateTime.Now.Ticks);

public static string Solve(int M = 15, int N = 15, double T_Minium = 0.0001, double Alpha = 0.9, int Maxium_Iterations = 100)

{

string[,] sourceArray = new string[M, N];

Anneal_Solution min = new Anneal_Solution(double.MaxValue, null);

Anneal_Solution currentSol = Rand_Solution(M);

double temperature = 1.0;

while (temperature > T_Minium)

{

for (int i = 0; i < Maxium_Iterations; i++)

{

if (currentSol.CVRMSE < min.CVRMSE)

{

min = currentSol;

}

Anneal_Solution newSol = Neighbor(currentSol);

double ap = Math.Pow(Math.E, (currentSol.CVRMSE - newSol.CVRMSE) / temperature);

if (ap > rand.NextDouble())

{

currentSol = newSol;

}

}

temperature *= Alpha;

}

#endregion

for (int i = 0; i < sourceArray.GetLength(0); i++)

{

for (int j = 0; j < sourceArray.GetLength(1); j++)

{

sourceArray[i, j] = "X";

}

}

foreach (int k in min.Config)

{

int[] coord = Index_To_Points(M, N, k);

sourceArray[coord[0], coord[1]] = "-";

}

StringBuilder sb = new StringBuilder();

for (int i = 0; i < sourceArray.GetLength(0); i++)

{

for (int j = 0; j < sourceArray.GetLength(1); j++)

{

sb.Append(sourceArray[i, j] + ", ");

}

sb.AppendLine("<br>");

}

return sb.ToString();

}

public static Anneal_Solution Neighbor(Anneal_Solution currentSol)

{

return currentSol;

}

public static Anneal_Solution Rand_Solution(int n)

{

int[] a = new int[n];

for (int i = 0; i < n; i++)

{

a[i] = i + 1;

}

return new Anneal_Solution(-1, a);

}

public static double Cost(int[] inputConfiguration)

{

return -1;

}

public static int[] Index_To_Points(int M, int N, int index)

{

int[] points = { index % M, index / M };

return points;

}

}

}

3 代码格式

cs 复制代码
using System;
using System.Text;

namespace Legalsoft.Truffer.Algorithm
{
    /// <summary>
    /// 算法核心数据类
    /// 含:方差系数均方根误差,配置参数(数组)
    /// </summary>
    public class Anneal_Solution
    {
        /// <summary>
        /// 方差系数均方根误差
        /// Coefficient of Variance Root Mean Squared Error
        /// 默认初值0.0;不超过1.0;
        /// </summary>
        public double CVRMSE { get; set; } = 0.0;
        /// <summary>
        /// 配置参数(数组)
        /// 整型数组;无初值(null);
        /// </summary>
        public int[] Config { get; set; } = null;
        /// <summary>
        /// (无参)默认构造函数
        /// </summary>
        public Anneal_Solution()
        {
        }
        /// <summary>
        /// (有参)构造函数
        /// </summary>
        /// <param name="CVRMSE">方差系数均方根误差</param>
        /// <param name="configuration">配置参数(数组)</param>
        public Anneal_Solution(double CVRMSE, int[] configuration)
        {
            this.CVRMSE = CVRMSE;
            Config = configuration;
        }
    }

    /// <summary>
    /// 模拟退火算法
    /// </summary>
    public class Simulated_Annealing
    {
        private static Random rand { get; set; } = new Random((int)DateTime.Now.Ticks);

        public static string Solve(int M = 15, int N = 15, double T_Minium = 0.0001, double Alpha = 0.9, int Maxium_Iterations = 100)
        {
            string[,] sourceArray = new string[M, N];
            Anneal_Solution min = new Anneal_Solution(double.MaxValue, null);
            Anneal_Solution currentSol = Rand_Solution(M);

            double temperature = 1.0;
            while (temperature > T_Minium)
            {
                for (int i = 0; i < Maxium_Iterations; i++)
                {
                    if (currentSol.CVRMSE < min.CVRMSE)
                    {
                        min = currentSol;
                    }

                    Anneal_Solution newSol = Neighbor(currentSol);
                    double ap = Math.Pow(Math.E, (currentSol.CVRMSE - newSol.CVRMSE) / temperature);
                    if (ap > rand.NextDouble())
                    {
                        currentSol = newSol;
                    }
                }
                temperature *= Alpha;
            }
            #endregion

            for (int i = 0; i < sourceArray.GetLength(0); i++)
            {
                for (int j = 0; j < sourceArray.GetLength(1); j++)
                {
                    sourceArray[i, j] = "X";
                }
            }

            foreach (int k in min.Config)
            {
                int[] coord = Index_To_Points(M, N, k);
                sourceArray[coord[0], coord[1]] = "-";
            }

            StringBuilder sb = new StringBuilder();
            for (int i = 0; i < sourceArray.GetLength(0); i++)
            {
                for (int j = 0; j < sourceArray.GetLength(1); j++)
                {
                    sb.Append(sourceArray[i, j] + ", ");
                }
                sb.AppendLine("<br>");
            }
            return sb.ToString();
        }

        public static Anneal_Solution Neighbor(Anneal_Solution currentSol)
        {
            return currentSol;
        }

        public static Anneal_Solution Rand_Solution(int n)
        {
            int[] a = new int[n];
            for (int i = 0; i < n; i++)
            {
                a[i] = i + 1;
            }
            return new Anneal_Solution(-1, a);
        }

        public static double Cost(int[] inputConfiguration)
        {
            return -1;
        }

        public static int[] Index_To_Points(int M, int N, int index)
        {
            int[] points = { index % M, index / M };
            return points;
        }
    }
}
相关推荐
机器学习之心8 分钟前
一区北方苍鹰算法优化+创新改进Transformer!NGO-Transformer-LSTM多变量回归预测
算法·lstm·transformer·北方苍鹰算法优化·多变量回归预测·ngo-transformer
yyt_cdeyyds18 分钟前
FIFO和LRU算法实现操作系统中主存管理
算法
alphaTao1 小时前
LeetCode 每日一题 2024/11/18-2024/11/24
算法·leetcode
kitesxian1 小时前
Leetcode448. 找到所有数组中消失的数字(HOT100)+Leetcode139. 单词拆分(HOT100)
数据结构·算法·leetcode
VertexGeek2 小时前
Rust学习(八):异常处理和宏编程:
学习·算法·rust
石小石Orz2 小时前
Three.js + AI:AI 算法生成 3D 萤火虫飞舞效果~
javascript·人工智能·算法
jiao_mrswang2 小时前
leetcode-18-四数之和
算法·leetcode·职场和发展
qystca3 小时前
洛谷 B3637 最长上升子序列 C语言 记忆化搜索->‘正序‘dp
c语言·开发语言·算法
薯条不要番茄酱3 小时前
数据结构-8.Java. 七大排序算法(中篇)
java·开发语言·数据结构·后端·算法·排序算法·intellij-idea
今天吃饺子3 小时前
2024年SCI一区最新改进优化算法——四参数自适应生长优化器,MATLAB代码免费获取...
开发语言·算法·matlab