动态规划:“以宇换宙”的优雅工艺

Those who do not remember the past are condemned to repeat it.
那些不能铭记历史的人注定要重蹈覆辙。

动态规划------经典案例分析中我们提到了斐波那契数列的求解思路。知道动态规划的主要优点是能够在解决问题时避免重复计算,通过利用已经计算过的结果来加速求解过程。

斐波那契数列的递归操作是怎么完成的,使用动态规划帮我们节省了哪些重复的计算?

这些问题是本文所要研究和探讨的内容。

斐波那契数列是一个经典的数学问题,定义如下:

  • F(0) = 0, F(1) = 1
  • F(n) = F(n-1) + F(n-2),其中 n > 1

如果采用递归进行求解的话,代码如下

cpp 复制代码
long fib(int n){
	if (n==0) return 0;
	if (n==1) return 1;
	return fib(n-1) + fib(n-2);
}

此时算法的时间复杂度为 F ( n ) = Θ ( ϕ n ) F(n)= \Theta(\phi^n) F(n)=Θ(ϕn),其中 ϕ = 5 + 1 2 ≈ 1.618 \phi=\frac{\sqrt{5}+1 }{2} \approx1.618 ϕ=25 +1≈1.618

fib(7) 作为例子,分析它的的递归调用树

可以看到存在比较多的重复计算, 其中 fib(2) 重复计算了 8 次; fib(3)重复计算了 5 次。但我们没有必要重复计算 F k F_k Fk 的值如果已经计算出 F k F_k Fk 的值,不妨存储下来,下次需要的时候直接使用。可以形象地称中间计算结果的存储空间为 备忘录 。


cpp 复制代码
#define UNKNOWN -1
std::vector<long> f;
long fib_m(int n) {
	if (f[n] == UNKNOWN)
		f[n] = fib_m(n - 1) + fib_m(n - 2);
	return f[n];
}

long fib_m_driver(int n) {
	f = std::vector<long>(n + 1,UNKNOWN);
	f[0] = 0; f[1] = 1;
	return fib_m(n);
}

通过引入 备忘录 空间 f [ n ] f[n] f[n] ,我们可以将递归的很多重复计算支点消除。此时算法的时间复杂度为 O ( n ) O(n) O(n) ;空间复杂度为 O ( n ) O(n) O(n)。

走到这一步其实还存在优化空间,对于每一个 fib(n) ,我们其实只需要知道 fib(n-1)fib(n-2)的值,所以无需保存fib(0)fib(n-3)的值。所以空间复杂度可以进一步减少到 O ( 1 ) O(1) O(1)


cpp 复制代码
long fib_o(int n) {
	long prev = 1, curr = 0, next;
	for (int i = 1; i <= n; i++) {
		next = curr + prev;
		prev = curr;
		curr = next;
	}
	return curr;
}

这是自底向上的主动填充 备忘录 。这一步需要根据递归关系决定如何填充 备忘录 。通过自底向上填写 备忘录 ,我们消除了递归调用的时空开销。


小结

  • 动机:在递归求解的过程中重复求解子问题
  • 策略: 通过空间换时间,将子问题的解存储下来,避免重复计算
    • 空间: 子问题的数量
    • 子问题的数量由子问题的参数决定
      斐波那契数的子问题只有一个参数且O i< n
  • 动态规划关键: 找到正确且高效的递归关系
  • 求解方式
    1. 自顶向下: 被动填充备忘录,递归调用决定备忘录的填充顺序
    2. 自底向上: 主动填充备忘录,需要根据递归关系决定如何填充备忘录
      自底向上没有递归调用的时空开销

相关推荐
古希腊掌管学习的神15 分钟前
[搜广推]王树森推荐系统笔记——曝光过滤 & Bloom Filter
算法·推荐算法
qystca16 分钟前
洛谷 P1706 全排列问题 C语言
算法
浊酒南街21 分钟前
决策树(理论知识1)
算法·决策树·机器学习
就爱学编程29 分钟前
重生之我在异世界学编程之C语言小项目:通讯录
c语言·开发语言·数据结构·算法
学术头条34 分钟前
清华、智谱团队:探索 RLHF 的 scaling laws
人工智能·深度学习·算法·机器学习·语言模型·计算语言学
Schwertlilien1 小时前
图像处理-Ch4-频率域处理
算法
IT猿手1 小时前
最新高性能多目标优化算法:多目标麋鹿优化算法(MOEHO)求解TP1-TP10及工程应用---盘式制动器设计,提供完整MATLAB代码
开发语言·深度学习·算法·机器学习·matlab·多目标算法
__lost1 小时前
MATLAB直接推导函数的导函数和积分形式(具体方法和用例)
数学·算法·matlab·微积分·高等数学
thesky1234561 小时前
活着就好20241224
学习·算法
ALISHENGYA2 小时前
全国青少年信息学奥林匹克竞赛(信奥赛)备考实战之分支结构(实战项目二)
数据结构·c++·算法