算法工程师的冰与火之歌

原标题：算法工程师的冰与火之歌

作者 | 程序员小吴

责编 | 胡巍巍

算法（Algorithm）是指用来操作数据、解决程序问题的一组方法。对于同一个问题，使用不同的算法，也许最终得到的结果是一样的，比如排序就有前面的十大经典排序和几种奇葩排序，虽然结果相同，但在过程中消耗的资源和时间却会有很大的区别，比如快速排序与猴子排序：）。

那么我们应该如何去衡量不同算法之间的优劣呢？

主要还是从算法所占用的「时间」和「空间」两个维度去考量。

冰之哀伤：时间复杂度大O符号表示法

大O表示法：算法的时间复杂度通常用大O符号表述，定义为 **T[n] = O(f(n)) **。称函数T(n)以f(n)为界或者称T(n)受限于f(n)。

如果一个问题的规模是n，解这一问题的某一算法所需要的时间为T(n)。T(n)称为这一算法的“时间复杂度”。

上面公式中用到的 Landau符号是由德国数论学家保罗·巴赫曼（Paul Bachmann）在其1892年的著作《解析数论》首先引入，由另一位德国数论学家艾德蒙·朗道（Edmund Landau）推广。Landau符号的作用在于用简单的函数来描述复杂函数行为，给出一个上或下（确）界。在计算算法复杂度时一般只用到大O符号，Landau符号体系中的小o符号、Θ符号等等比较不常用。这里的O，最初是用大写希腊字母，但现在都用大写英语字母O；小o符号也是用小写英语字母o，Θ符号则维持大写希腊字母Θ。

大O符号是一种算法「复杂度」的「相对」「表示」方式。

这个句子里有一些重要而严谨的用词：

我们先从常见的时间复杂度量级进行大O的理解：

O(1)

无论代码执行了多少行，其他区域不会影响到操作，

这个代码的时间复杂度都是O(1)。

1voidswapTwoInts(int&a, int&b){

2inttemp = a;

3a = b;

4b = temp;

5}

O(n)

在下面这段代码，for循环里面的代码会执行 n 遍，因此它消耗的时间是随着 n 的变化而变化的，因此可以用O(n)来表示它的时间复杂度。

1intsum( intn ){

2intret = 0;

3for( inti = 0; i <= n ; i ++){

4ret += i;

5}

6returnret;

7}

特别一提的是 c * O(n) 中的 c 可能小于 1 ，

比如下面这段代码：

1voidreverse( string&s ){

2intn = s.size();

3for(inti = 0; i < n/2; i++){

4swap ( s[i] , s[n-1-i]);

5}

6}

O(n2)

当存在双重循环的时候，即把 O(n) 的代码再嵌套循环一遍，

它的时间复杂度就是 O(n2) 了。

1voidselectionSort(intarr[],intn){

2for(inti = 0; i < n ; i++){

3intminIndex = i;

4for(intj = i + 1; j < n ; j++ )

5if(arr[j] < arr[minIndex])

6minIndex = j;

7

8swap ( arr[i], arr[minIndex]);

9}

10}

这里简单的推导一下：

不难得到公式：

1(n - 1) + (n - 2) + (n - 3) + ...+ 0

2= (0+ n - 1) * n / 2

3= O (n ^2)

当然并不是所有的双重循环都是 O(n2)，

比如下面这段输出30n次 Hello，五分钟学算法：）的代码。

1voidprintInformation(intn ){

2for(inti = 1; i <= n ; i++)

3for(intj = 1; j <= 30; j ++)

4cout<< "Hello,五分钟学算法：）"<< endl;

5}

O(logn)

1intbinarySearch( intarr[], intn , inttarget){

2intl = 0, r = n - 1;

3while( l <= r) {

4intmid= l + (r - l) / 2;

5if(arr[mid] == target) return mid;

6if(arr[mid] > target ) r = mid- 1;

7elsel = mid+ 1;

8}

9return -1;

10}

在二分查找法的代码中，通过while循环，

成 2 倍数的缩减搜索范围，

也就是说需要经过 log2^n 次即可跳出循环。

同样的，还有下面两段代码

也是 O(logn) 级别的时间复杂度。

1// 整形转成字符串

2stringintToString( intnum ){

3strings = "";

4// n 经过几次“除以10”的操作后，等于0

5while(num ){

6s += "0"+ num%10;

7num /= 10;

8}

9reverse(s)

10returns;

11}

1voidhello(intn ){

2// n 除以几次 2 到 1

3for( intsz = 1; sz < n ; sz += sz)

4for(inti = 1; i < n; i++)

5cout<< "Hello,五分钟学算法：）"<< endl;

6}

O(nlogn)

将时间复杂度为O(logn)的代码循环N遍的话，

那么它的时间复杂度就是 n * O(logn)，也就是了O(nlogn)。

1voidhello(){

2for( m = 1; m < n ; m++){

3i = 1;

4while( i < n ){

5i = i * 2;

6}

7}

8}

不常见的时间复杂度

下面来分析一波另外几种复杂度： 递归算法的时间复杂度（recursive algorithm time complexity），最好情况时间复杂度（best case time complexity）、最坏情况时间复杂度（worst case time complexity）、平均时间复杂度（average case time complexity）和均摊时间复杂度（amortized time complexity）。

递归算法的时间复杂度

如果递归函数中，只进行一次递归调用，递归深度为depth；

在每个递归的函数中，时间复杂度为T；

则总体的时间复杂度为O(T * depth)。

在前面的学习中，归并排序 与 快速排序 都带有递归的思想，并且时间复杂度都是O(nlogn) ，但并不是有递归的函数就一定是 O(nlogn) 级别的。从以下两种情况进行分析。

① 递归中进行一次递归调用的复杂度分析二分查找法

1intbinarySearch(intarr[], intl, intr, inttarget){

2if( l > r ) return-1;

3

4intmid = l + (r-l)/2;

5if( arr[mid] == target ) returnmid;

6elseif( arr[mid] > target )

7returnbinarySearch(arr, l, mid-1, target); // 左边

8else

9returnbinarySearch(arr, mid+1, r, target); // 右边

10}

比如在这段二分查找法的代码中，每次在 [ l , r ] 范围中去查找目标的位置，如果中间的元素 arr[mid] 不是 target，那么判断 arr[mid]是比 target 大 还是 小 ，进而再次调用 binarySearch这个函数。

在这个递归函数中，每一次没有找到target时，要么调用左边 的 binarySearch函数，要么调用 右边 的 binarySearch函数。

也就是说在此次递归中，最多调用了一次递归调用而已。根据数学知识，需要log2n次才能递归到底。因此，二分查找法的时间复杂度为 O(logn)。

求和

1intsum(intn){

2if(n == 0) return0;

3returnn + sum( n - 1)

4}

在这段代码中比较容易理解递归深度随输入 n 的增加而线性递增，

因此时间复杂度为 O (n)。

求幂

1//递归深度：logn

2//时间复杂度：O(logn)

3doublepow( doublex, intn){

4if(n == 0) return1.0;

5

6doublet = pow(x,n/2);

7if(n %2) returnx*t*t;

8returnt * t;

9}

递归深度为 logn，因为是求需要除以 2 多少次才能到底。

② 递归中进行多次递归调用的复杂度分析

递归算法中比较难计算的是多次递归调用。

先看下面这段代码，有两次递归调用。

1// O(2^n) 指数级别的数量级，后续动态规划的优化点

2intf(intn){

3if(n == 0) return1;

4returnf(n-1) + f(n - 1);

5}

递归树中节点数就是代码计算的调用次数。

比如 当 n = 3 时，调用次数计算公式为

1 + 2 + 4 + 8 = 15

一般的，调用次数计算公式为

2^0 + 2^1 + 2^2 + …… + 2^n

= 2^(n+1) - 1

= O(2^n)

与之有所类似的是归并排序的递归树，区别点在于：

因此，在如 归并排序 等排序算法中，每一层处理的数据量为 O(n) 级别，同时有 logn 层，时间复杂度便是 O(nlogn)。

最好、最坏情况时间复杂度

最好、最坏情况时间复杂度指的是特殊情况下的时间复杂度。

动图表明的是在数组 array 中寻找变量 x 第一次出现的位置，若没有找到，则返回 -1；否则返回位置下标。

1intfind(int[] array, intn, intx){

2for( inti = 0; i < n; i++) {

3if(array[i] == x) {

4returni;

5break;

6}

7}

8return-1;

9}

在这里当数组中第一个元素就是要找的 x 时，时间复杂度是 O(1)；而当最后一个元素才是 x 时，时间复杂度则是 O(n)。

最好情况时间复杂度就是在最理想情况下执行代码的时间复杂度，它的时间是最短的。

最坏情况时间复杂度就是在最糟糕情况下执行代码的时间复杂度，它的时间是最长的。

平均情况时间复杂度

最好、最坏时间复杂度反应的是极端条件下的复杂度，发生的概率不大，不能代表平均水平。那么为了更好的表示平均情况下的算法复杂度，就需要引入平均时间复杂度。

平均情况时间复杂度可用代码在所有可能情况下执行次数的加权平均值表示。

还是以 find 函数为例，从概率的角度看， x 在数组中每一个位置的可能性是相同的，为 1 / n。那么，那么平均情况时间复杂度就可以用下面的方式计算：

((1 + 2 + … + n) / n + n) / 2 = (3n + 1) / 4

find 函数的平均时间复杂度为 O(n)。

均摊复杂度分析

我们通过一个动态数组的 push_back 操作来理解 均摊复杂度。

1template<typenameT>

2class MyVector{

3private:

4T* data;

5intsize; // 存储数组中的元素个数

6intcapacity; // 存储数组中可以容纳的最大的元素个数

7// 复杂度为 O(n)

8voidresize(intnewCapacity){

9T *newData = newT[newCapacity];

10for( inti = 0; i < size ; i ++ ){

11newData[i] = data[i];

12}

13data = newData;

14capacity = newCapacity;

15}

16public:

17MyVector(){

18data = newT[100];

19size = 0;

20capacity = 100;

21}

22// 平均复杂度为 O(1)

23voidpush_back(T e){

24if(size == capacity)

25resize(2* capacity);

26data[size++] = e;

27}

28// 平均复杂度为 O(1)

29T pop_back(){

30size --;

31returndata[size];

32}

33

34};

push_back实现的功能是往数组的末尾增加一个元素，如果数组没有满，直接往后面插入元素；如果数组满了，即 size == capacity ，则将数组扩容一倍，然后再插入元素。

例如，数组长度为 n，则前 n 次调用 push_back 复杂度都为 O(1) 级别；在第 n + 1 次则需要先进行 n 次元素转移操作，然后再进行 1 次插入操作，复杂度为 O(n)。

因此，平均来看：对于容量为 n 的动态数组，前面添加元素需要消耗了 1 * n 的时间，扩容操作消耗 n 时间 ，总共就是 2 * n 的时间，因此均摊时间复杂度为 O(2n / n) = O(2)，也就是 O(1) 级别了。

可以得出一个比较有意思的结论：一个相对比较耗时的操作，如果能保证它不会每次都被触发，那么这个相对比较耗时的操作，它所相应的时间是可以分摊到其它的操作中来的。

火之晨曦：空间复杂度

一个程序的空间复杂度是指运行完一个程序所需内存的大小。利用程序的空间复杂度，可以对程序的运行所需要的内存多少有个预先估计。

一个程序执行时除了需要存储空间和存储本身所使用的指令、常数、变量和输入数据外，还需要一些对数据进行操作的工作单元和存储一些为现实计算所需信息的辅助空间。程序执行时所需存储空间包括以下两部分：

(1) 固定部分，这部分空间的大小与输入/输出的数据的个数多少、数值无关。主要包括指令空间（即代码空间）、数据空间（常量、简单变量）等所占的空间。这部分属于静态空间。

(2) 可变空间，这部分空间的主要包括动态分配的空间，以及递归栈所需的空间等。这部分的空间大小与算法有关。

一个算法所需的存储空间用f(n)表示。S(n)=O(f(n))，其中n为问题的规模，S(n)表示空间复杂度。

空间复杂度可以理解为除了原始序列大小的内存，在算法过程中用到的额外的存储空间。

以二叉查找树为例，举例说明二叉排序树的查找性能。

平衡二叉树

如果二叉树的是以红黑树等平衡二叉树实现的，则 n 个节点的二叉排序树的高度为 log2n+1 ，其查找效率为O(Log2n)，近似于折半查找。

列表二叉树

如果二叉树退变为列表了，则 n 个节点的高度或者说是长度变为了n，查找效率为O(n)，变成了顺序查找。

一般二叉树

介于「列表二叉树」与「平衡二叉树」之间，查找性能也在O(Log2n)到O(n)之间。

冰火交融

对于一个算法，其时间复杂度和空间复杂度往往是相互影响的。

比如说，要判断某某年是不是闰年：

这就是典型的使用空间换时间的概念。

当追求一个较好的时间复杂度时，可能会使空间复杂度的性能变差，即可能导致占用较多的存储空间；

反之，求一个较好的空间复杂度时，可能会使时间复杂度的性能变差，即可能导致占用较长的运行时间。

另外，算法的所有性能之间都存在着或多或少的相互影响。因此，当设计一个算法(特别是大型算法)时，要综合考虑算法的各项性能，算法的使用频率，算法处理的数据量的大小，算法描述语言的特性，算法运行的机器系统环境等各方面因素，才能够设计出比较好的算法。

作者：程序员小吴，哈工大学渣，目前正在学算法，开源项目 「 LeetCodeAnimation 」5500star，GitHub Trending 榜连续一月第一。运营个人微信号五分钟学算法，一起学习，一起进步！

声明：本文为作者投稿，版权归其个人所有。文章广告为微信自动匹配，与本平台无关，如遇假冒伪劣请联系微信进行举报。

【End】