（二）算法

1. 算法的定义

• 定义：是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

2. 算法的特性

算法具有五个基本特性：输入、输出、有穷性、确定性和可行性。

• 输入输出：算法具有零个或多个输入；算法至少有一个或多个输出。

• 有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

• 确定性：算法的每一步骤都具有确定的含义，不会出现二义性。

• 可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

3. 算法设计的要求

• 正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。

  关于正确性，大体分为以下四个层次：
  (1) 算法程序没有语法错误。
  (2) 算法程序对于合法的输入数据能够产生满足要求的输出结果。
  (3) 算法程序对于非法的输入数据能够得出满足规格说明的结果。
  (4) 算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果。
  一般情况，把层次(3)作为一个算法是否正确的标准。

• 可读性：算法设计的另一目的是为了便于阅读、理解和交流。

• 健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。

• 时间效率高和存储量低：时间效率指的是算法的执行时间，执行时间短的算法效率高；存储量需求指算法在执行过程中需要的最大存储空间，主要指算法程序运行时所占用的内存或外部硬盘存储空间。

4. 算法效率的度量方法

4.1 事后统计方法

• 定义：主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。
• 缺陷：
  (1) 花费大量的时间和精力。
  (2) 时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。
  (3) 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。

基于事后统计方法的种种缺陷，不予采纳。

4.2 事前分析估算方法

• 定义：在计算机程序编制前，依据统计方法对算法进行估算。

一个用高级程序语言编写的程序在计算机上运行时所消耗的时间，取决于下列因素：
(1) 算法采用的策略、方法。
(2) 编译产生的代码质量。
(3) 问题的输入规模。
(4) 机器执行指令的速度。

其中，(1) 是算法好坏的根本，(2) 要由软件来支持，(4) 要看硬件性能。

即，抛开与计算机硬件、软件有关的因素，
一个程序的运行时间，依赖于：算法的好坏和问题的输入规模。

所谓问题输入规模，是指输入量的多少。

5. 函数的渐近增长

• 定义：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。

判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而应关注主项(最高阶项)的阶数。

某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。
这其实是事前估算方法的理论依据，通过算法时间复杂度来估算算法时间效率。

6. 算法时间复杂度

6.1 基本概念

在进行算法分析时，语句总的执行次数T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。

• 定义：算法的时间复杂度，也就是算法的时间量度，记作：T(n)=O(f(n))。
  它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中，f(n)是问题规模n的某个函数。

这样用大写O()来体现算法时间复杂度的记法，称为大O记法。

一般情况下，随着n的增大，T(n)增长最慢的算法为最优算法。

6.2 推导大O阶的方法

分为以下几步：
(1) 用常数1取代运行时间中的所有加法常数。
(2) 在修改后的运行次数函数中，只保留最高阶项。
(3) 如果最高阶项存在且不是1，则去除与这个项相乘的常数。所得结果即为大O阶。

6.3 常见的时间复杂度

如下表所示：

其中，所耗时间从小到大依次为：
O(1) <O(log$n$) <Ｏ(n) <O($n$log$n$) <O($n^2$) <O($n^3$) <O($2^n$) <O($n!$) <O($n^n$)

7. 最坏情况与平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。
在应用中，这是一种最重要的需求。
通常，除非特别指定，所提到的运行时间都是最坏情况的运行时间。

计算最坏情况下的时间复杂度，称为最坏时间复杂度。
一般在没有特殊说明的情况下，都是指最坏时间复杂度。

8. 算法空间复杂度

写代码时，可以用空间来换取时间。

参考

《大话数据结构》 —— 2 算法