文章目录
一、复杂度概念
二、时间复杂度
2.1 大O的渐进表示法
2.2 时间复杂度计算示例
2.2.1. // 计算Func2的时间复杂度?
2.2.2.// 计算Func3的时间复杂度?
2.2.3.// 计算Func4的时间复杂度?
2.2.4.// 计算strchr的时间复杂度?
💡 总结
2.2.5.// 计算BubbleSort (冒泡排序) 的时间复杂度?
2.2.6.// 计算func5的时间复杂度?
2.2.7.// 计算阶乘递归Fac的时间复杂度?
三、空间复杂度
3.1 空间复杂度计算示例
3.1.1// 计算BubbleSort的空间复杂度?
3.1.2// 计算阶乘递归Fac的空间复杂度?
四、常见复杂度对比
一、复杂度概念
- 算法在编写成可执⾏程序后,运⾏时需要耗费时间资源和空间(内存)资源 。因此衡量⼀个算法的好坏,⼀般是从时间和空间两个维度来衡量的,即时间复杂度和空间复杂度。 时间复杂度主要衡量⼀个算法的运⾏快慢,⽽空间复杂度主要衡量⼀个算法运⾏所需要的额外空间。在计算 机发展的早期,计算机的存储容量很⼩。所以对空间复杂度很是在乎。但是经过计算机⾏业的迅速发展,计算机的存储容量已经达到了很⾼的程度。所以我们如今已经不需要再特别关注⼀个算法的空间复杂度。
二、时间复杂度
定义:在计算机科学中,算法的时间复杂度是⼀个函数式T(N),它定量描述了该算法的运⾏时 间,时间复杂度是衡量程序的时间效率,那么为什么不去计算程序的运⾏时间呢?
- 因为程序运⾏时间和编译环境和运⾏机器的配置都有关系,⽐如同⼀个算法程序,⽤⼀个⽼编译器进⾏编译和新编译器编译,在同样机器下运⾏时间不同。
- 同⼀个算法程序,⽤⼀个⽼低配置机器和新⾼配置机器,运⾏时间也不同。
- 并且时间只能程序写好后测试,不能写程序前通过理论思想计算评估。
那么算法的时间复杂度是⼀个函数式T(N)到底是什么呢?这个T(N)函数式计算了程序的执⾏次数。通过c语⾔编译链接章节学习,我们知道算法程序被编译后⽣成⼆进制指令,程序运⾏,就是cpu执⾏这些编译好的指令。那么我们通过程序代码或者理论思想计算出程序的执⾏次数的函数式T(N),
假设每句指令执⾏时间基本⼀样(实际中有差别,但是微乎其微),那么执⾏次数和运⾏时间就是等⽐正相关,这样也脱离了具体的编译运⾏环境。执⾏次数就可以代表程序时间效率的优劣。⽐如解决⼀个问题的算法a程序T(N) = N,算法b程序T(N) = N^2,那么算法a的效率⼀定优于算法b。
看下面代码
void Func1(int N)
{
int count = 0;
for (int i = 0; i < N ; ++ i)
{
for (int j = 0; j < N ; ++ j)
{
++count;
}
}
for (int k = 0; k < 2 * N ; ++ k)
{
++count;
}
int M = 10;
while (M--)
{
++count;
}
}
- 程序时间效率:每条语句运行时间(通过编译环境或者运行环境决定的,存在不确定性) * 运 行次数
- Func1 执⾏的基本操作次数:
T ( N ) = N 2 + 2 ∗ N + 10
• N = 10 N2 = 100 2*N = 20 T(N) = 130
• N = 100 N2 = 100 2*N = 200 T(N) = 10210
• N = 1000 N2 = 100 2*N = 2000 T(N) = 1002010
通过对N取值分析,对结果影响最⼤的⼀项是 N 2.
实际中我们计算时间复杂度时,计算的也不是程序的精确的执⾏次数,精确执⾏次数计算起来还是很⿇烦的(不同的⼀句程序代码,编译出的指令条数都是不⼀样的),计算出精确的执⾏次数意义也不⼤,因为我么计算时间复杂度只是想⽐较算法程序的增⻓量级,也就是当N不断变⼤时T(N)的差别,上⾯我们已经看到了当N不断变⼤时常数和低阶项对结果的影响很⼩,所以我们只需要计算程序能代表增⻓量级的⼤概执⾏次数,复杂度的表⽰通常使⽤⼤O的渐进表⽰法。
2.1 大O的渐进表示法
⼤O符号(Big O notation):是⽤于描述函数渐进⾏为的数学符号
💡 推导⼤O阶规则
- 时间复杂度函数式T(N)中,只保留最⾼阶项,去掉那些低阶项,因为当N不断变⼤时,低阶项对结果影响越来越⼩,当N⽆穷⼤时,就可以忽略不计了。
- 如果最⾼阶项存在且不是1,则去除这个项⽬的常数系数,因为当N不断变⼤,这个系数对结果影响越来越⼩,当N⽆穷⼤时,就可以忽略不计了。
3. T(N) 中如果没有 N 相关的项⽬,只有常数项,⽤常数 1 取代所有加法常数。
通过以上⽅法,可以得到 Func1 的时间复杂度为: O ( N 2 )
2.2 时间复杂度计算示例
2.2.1. // 计算Func2的时间复杂度?
void Func2(int N)
{
int count = 0;
for (int k = 0; k < 2 * N ; ++ k)
{
++count; 2N
}
int M = 10;
while (M--)
{
++count; 10
}
printf("%d\n", count);
}
- Func2执⾏的基本操作次数:F(N) = 2N+ 10
- 根据推导规则第3条得出,Func2的时间复杂度为: O(N)
2.2.2.// 计算Func3的时间复杂度?
void Func3(int N, int M)
{
int count = 0;
for (int k = 0; k < M; ++ k)
{
++count; M
}
for (int k = 0; k < N ; ++k)
{
++count; N
}
printf("%d\n", count);
}
- Func3执⾏的基本操作次数: F ( N ) = M + N
- 因此:Func2的时间复杂度为: O ( N )
注意:当 M>>N , O(M);
当 M>>N , O(M);
当 M == N , O(M+N);
2.2.3.// 计算Func4的时间复杂度?
void Func4(int N)
{
int count = 0;
for (int k = 0; k < 100; ++ k)
{
++count;
}
printf("%d\n", count);
}
- Func4执⾏的基本操作次数:F(N) = 100
- 根据推导规则第1条得出Func2的时间复杂度为: O (1)
注意:这里的 1 不是运行一次,而是代表常数。
2.2.4.// 计算strchr的时间复杂度?
const char * strchr ( const char* str, int character)
{
const char* p_begin = s;
while (*p_begin != character)
{
if (*p_begin == '\0')
return NULL;
p_begin++;
}
return p_begin;
}
T(N)取决于查找的位置
strchr执⾏的基本操作次数:
1)若要查找的字符在字符串第⼀个位置,则: F ( N ) = 1
2)若要查找的字符在字符串最后的⼀个位置,则: F ( N ) = N
3)若要查找的字符在字符串中间位置,则: F ( N ) = N /2
因此:strchr的时间复杂度分为:
最好情况: O (1)
最坏情况: O ( N )
平均情况: O ( N/2 ) --> O ( N )
💡 总结
通过上⾯我们会发现,有些算法的时间复杂度存在最好、平均和最坏情况。
最坏情况:任意输⼊规模的最⼤运⾏次数(上界)
平均情况:任意输⼊规模的期望运⾏次数
最好情况:任意输⼊规模的最⼩运⾏次数(下界)
⼤O的渐进表⽰法在实际中⼀般情况关注的是算法的上界,也就是最坏运⾏情况。
2.2.5.// 计算BubbleSort (冒泡排序) 的时间复杂度?
void BubbleSort(int* a, int n)
{
assert(a);
for (size_t end = n; end > 0; --end)
{
int exchange = 0;
for (size_t i = 1; i < end; ++i)
{
if (a[i-1] > a[i])
{
Swap(&a[i-1], &a[i]);
exchange = 1;
}
}
if (exchange == 0) //数组有序
break;
}
}
外层循环次数 : 1 2 3 ...... end
内层循环次数 : N N-1 N-2 ...... 0
BubbleSort执⾏的基本操作次数:
1)若数组有序,则: F ( N ) = N
2)若数组有序且为降序,则: F ( N ) = 1 + 2 + 3+...+ N =N ∗ ( N + 1)/2 -->N2
因此:BubbleSort的时间复杂度取最差情况为: O ( N 2 )
2.2.6.// 计算func5的时间复杂度?
void func5(int n)
{
int cnt = 1;
while (cnt < n)
{
cnt *= 2;
}
}
当 cnt = 2时, 执⾏次数为1
当 cnt = 4时, 执⾏次数为2
当 cnt = 16时, 执⾏次数为4
若要使该公式不成立,即跳出 while 循环,此时 x 最小为 4
假设执⾏次数为 x ,则 2 x = n
因此执⾏次数: x = log n
因此:func5的时间复杂度取最差情况为: O (log 2 n )
(注意课件中和书籍中 log 2 n 、 log n 、 lg n 的表⽰
当n接近⽆穷⼤时,底数的⼤⼩对结果影响不⼤。因此,⼀般情况下不管底数是多少都可以省略不
写,即可以表⽰为 log n
不同书籍的表⽰⽅式不同,以上写法差别不⼤,我们建议使⽤ log n)
2.2.7.// 计算阶乘递归Fac的时间复杂度?
long long Fac(size_t N)
{
if(0 == N)
return 1;
return Fac(N-1)*N;
}
递归过程: Fac(n) -> Fac(n-1) -> Fac(n-2) -> ... Fac(0)
单次递归的时间复杂度: O(1) O(1) O(1) ... O(1)
递归的次数为N;
时间复杂度:单次递归的时间复杂度 * 递归次数:O(1) * N = O(N)
阶乘递归的时间复杂度为: O (N )
三、空间复杂度
空间复杂度也是⼀个数学表达式,是对⼀个算法在运⾏过程中因为算法的需要额外临时开辟的空间。
空间复杂度不是程序占⽤了多少bytes的空间,因为常规情况每个对象⼤⼩差异不会很⼤,所以空间复杂度算的是变量的个数。
空间复杂度计算规则基本跟实践复杂度类似,也使⽤⼤O渐进表⽰法。
注意:函数运⾏时所需要的栈空间(存储参数、局部变量、⼀些寄存器信息等)在编译期间已经确定好了,因此空间复杂度主要通过函数在运⾏时候显式申请的额外空间来确定
3.1 空间复杂度计算示例
3.1.1// 计算BubbleSort的空间复杂度?
在 2.2.5 中我们计算了 BubbleSort 的时间复杂度,那么空间复杂度又是怎么计算呢?
void BubbleSort(int* a, int n)
{
assert(a);
for (size_t end = n; end > 0; --end) // (size_t end = n) 申请一次
{
int exchange = 0; // (int exchange = 0) 申请一次
for (size_t i = 1; i < end; ++i) // (size_t i) 申请一次
{
if (a[i-1] > a[i])
{
Swap(&a[i-1], &a[i]);
exchange = 1;
}
}
if (exchange == 0) //数组有序
break;
}
}
函数栈帧在编译期间已经确定好了, 只需要关注函数在运⾏时额外申请的空间。
BubbleSort额外申请的空间有 exchange、 size_t end 、size_t i 等 有限个局部变量,使⽤了常数个额外空间,因此空间复杂度为 O (1)。
3.1.2// 计算阶乘递归Fac的空间复杂度?
long long Fac(size_t N)
{
if(0 == N)
return 1;
return Fac(N-1)*N;
}
Fac递归调⽤了N次,额外开辟了N个函数栈帧,每个栈帧使⽤了常数个空间
因此空间复杂度为: O ( N )