动态规划:“以宇换宙”的优雅工艺

Those who do not remember the past are condemned to repeat it.
那些不能铭记历史的人注定要重蹈覆辙。

动态规划------经典案例分析中我们提到了斐波那契数列的求解思路。知道动态规划的主要优点是能够在解决问题时避免重复计算,通过利用已经计算过的结果来加速求解过程。

斐波那契数列的递归操作是怎么完成的,使用动态规划帮我们节省了哪些重复的计算?

这些问题是本文所要研究和探讨的内容。

斐波那契数列是一个经典的数学问题,定义如下:

  • F(0) = 0, F(1) = 1
  • F(n) = F(n-1) + F(n-2),其中 n > 1

如果采用递归进行求解的话,代码如下

cpp 复制代码
long fib(int n){
	if (n==0) return 0;
	if (n==1) return 1;
	return fib(n-1) + fib(n-2);
}

此时算法的时间复杂度为 F ( n ) = Θ ( ϕ n ) F(n)= \Theta(\phi^n) F(n)=Θ(ϕn),其中 ϕ = 5 + 1 2 ≈ 1.618 \phi=\frac{\sqrt{5}+1 }{2} \approx1.618 ϕ=25 +1≈1.618

fib(7) 作为例子,分析它的的递归调用树

可以看到存在比较多的重复计算, 其中 fib(2) 重复计算了 8 次; fib(3)重复计算了 5 次。但我们没有必要重复计算 F k F_k Fk 的值如果已经计算出 F k F_k Fk 的值,不妨存储下来,下次需要的时候直接使用。可以形象地称中间计算结果的存储空间为 备忘录 。


cpp 复制代码
#define UNKNOWN -1
std::vector<long> f;
long fib_m(int n) {
	if (f[n] == UNKNOWN)
		f[n] = fib_m(n - 1) + fib_m(n - 2);
	return f[n];
}

long fib_m_driver(int n) {
	f = std::vector<long>(n + 1,UNKNOWN);
	f[0] = 0; f[1] = 1;
	return fib_m(n);
}

通过引入 备忘录 空间 f [ n ] f[n] f[n] ,我们可以将递归的很多重复计算支点消除。此时算法的时间复杂度为 O ( n ) O(n) O(n) ;空间复杂度为 O ( n ) O(n) O(n)。

走到这一步其实还存在优化空间,对于每一个 fib(n) ,我们其实只需要知道 fib(n-1)fib(n-2)的值,所以无需保存fib(0)fib(n-3)的值。所以空间复杂度可以进一步减少到 O ( 1 ) O(1) O(1)


cpp 复制代码
long fib_o(int n) {
	long prev = 1, curr = 0, next;
	for (int i = 1; i <= n; i++) {
		next = curr + prev;
		prev = curr;
		curr = next;
	}
	return curr;
}

这是自底向上的主动填充 备忘录 。这一步需要根据递归关系决定如何填充 备忘录 。通过自底向上填写 备忘录 ,我们消除了递归调用的时空开销。


小结

  • 动机:在递归求解的过程中重复求解子问题
  • 策略: 通过空间换时间,将子问题的解存储下来,避免重复计算
    • 空间: 子问题的数量
    • 子问题的数量由子问题的参数决定
      斐波那契数的子问题只有一个参数且O i< n
  • 动态规划关键: 找到正确且高效的递归关系
  • 求解方式
    1. 自顶向下: 被动填充备忘录,递归调用决定备忘录的填充顺序
    2. 自底向上: 主动填充备忘录,需要根据递归关系决定如何填充备忘录
      自底向上没有递归调用的时空开销

相关推荐
武大打工仔7 分钟前
用 Java 复现哲学家就餐问题
算法
要做朋鱼燕9 分钟前
【数据结构】用堆解决TOPK问题
数据结构·算法
秋难降1 小时前
LRU缓存算法(最近最少使用算法)——工业界缓存淘汰策略的 “默认选择”
数据结构·python·算法
tkevinjd1 小时前
图论\dp 两题
leetcode·动态规划·图论
CoovallyAIHub3 小时前
线性复杂度破局!Swin Transformer 移位窗口颠覆高分辨率视觉建模
深度学习·算法·计算机视觉
点云SLAM3 小时前
Eigen中Dense 模块简要介绍和实战应用示例(最小二乘拟合直线、协方差矩阵计算和稀疏求解等)
线性代数·算法·机器学习·矩阵·机器人/slam·密集矩阵与向量·eigen库
renhongxia13 小时前
大模型微调RAG、LORA、强化学习
人工智能·深度学习·算法·语言模型
DdduZe4 小时前
8.19作业
数据结构·算法
PyHaVolask4 小时前
链表基本运算详解:查找、插入、删除及特殊链表
数据结构·算法·链表