【大话数据结构】第二章-算法

二、算法

1. 问题引入

比较求1+2+·····+100的两种算法

第一种：

int i, sum = 0, n = 100;
for (i = 1; i <= n; i++) {
    
    
    sum = sum + i;
}
printf("%d", sum);

第二种：

int sum = 0, n = 100;
sum = (1 + n) * n / 2;
printf("%d", sum);

第二种明显比第一种快很多，巧妙的计算方法使计算变得更快，这就是算法的魅力。

2.算法定义

算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

3.算法的特性

算法有五个基本特性：输入、输出、有穷性、确定性和可行性。

3.1 输入输出

算法具有零个或者多个输入，但至少有一个或者多个输出。

3.2 有穷性

算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

3.3 确定性

算法的每一步都具有确定的含义，不会出现二义性。

3.4 可行性

算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

4.算法设计的要求

4.1 正确性

算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。

4.2 可读性

算法设计的另一个目的是为了便于阅读、理解和交流。

4.3 健壮性

当输入数据不合法时，算法也能做出相应的处理，而不是产生异常或莫名其妙的结果。

4.4 时间效率高和存储量低

设计算法应该尽量满足时间效率高和存储量低的需求。

5.算法效率的度量方法

5.1 事后统计法

事后统计法：通过设计好的测试程序和数据，利用计算机计时器对不同的算法编制的程序的运行时间进行比较，从而确定算法效率的高低。

但这种方法存在很大的缺陷：

• 必须依据算法事先编写好程序，这通常需要花费大量的时间和精力。
• 时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。
• 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大的关系，效率高的算法在小的测试数据面前往往得不到体现。

5.2 事前分析估算法

事前分析估算法：在计算机程序编制前，依据统计方法对算法进行估算。

一个用高级程序语言编写的程序在计算机上运行时所消耗的时间取决于下列因素：

1. 算法采用的策略、方法。
2. 编译产生的代码质量。
3. 问题的输入规模。
4. 机器执行指令的速度。

第1条是算法好坏的根本，第2条要由软件来支持，第4条要看硬件性能。抛开这些与计算机硬件、软件有关的因素，一个程序的运行时间，依赖于算法的好坏和问题的输入规模。所谓问题输入规模是指输入量的多少。

再来比较一下1+2+······+100的两个算法：

第一种：

int i, sum = 0, n = 100;       // 执行1次
for (i = 1; i <= n; i++) {
    
         // 执行n+1次
    sum = sum + i;             // 执行n次
}
printf("%d", sum);             // 执行1次

第二种：

int sum = 0, n = 100;          // 执行1次
sum = (1 + n) * n / 2;         // 执行1次
printf("%d", sum);             // 执行1次

第一种算法共执行了1+(n+1)+n+1=2n+3次；第二种算法共执行了3次；显然第二种算法更好。

由此可见，测定运行时间最可靠的方法就是计算对运行时间有消耗的基本操作的执行次数。

我们不关心编写程序所用的程序设计语言是什么，也不关心这些程序将跑在什么计算机中，我们只关心它所实现的算法。这样，不计那些循环索引的递增和循环终止条件、变量声明、打印结果等操作，最终，在分析程序的运行时间时，最重要的是把程序看成是独立于程序设计语言的算法或一系列步骤。

我们在分析一个算法的运行时间时，重要的是把基本操作的数量与输入规模关联起来，即基本操作的数量必须表示成输入规模的函数。

我们可以这样认为，随着n值的越来越大，它们在时间效率上的差异也就越来越大。

6.函数的渐近增长

函数的渐近增长：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总比g(n)大，那么就说f(n)的增长渐近快于g(n)。

有以下几个分析比较的特点：

• 忽略加法常数。如：算法A执行n+3次，可以忽略+3
• 忽略次要项。如：算法B执行n²+2n+1次，可以忽略2n+1
• 忽略最高次项系数。如：算法C执行2n²次，可以忽略2
• 关注主项(最高阶项)的阶数。如：算法D执行3n²+3n+2次。只关心n²

结论：判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项(最高阶项)的阶数。

7.算法时间复杂度

7.1 算法时间复杂度定义

在进行算法分析时，语句总的执行次数T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间量度，记作：T(n)=O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某个函数。

这样用大写O()来体现算法时间复杂度的记法，称之为大O记法。

一般情况下，随着n的增大，T(n)增长最慢的算法为最优算法。

7.2 推导大O阶方法

推导大O阶：

1. 用常数1取代运行时间中的所有加法常数
2. 在修改后的运行次数函数中，只保留最高阶项
3. 如果最高阶项存在且不是1，则去除与这个项相乘的常数

由此得到的结果就是大O阶。

7.3 常数阶

int sum = 0, n = 100;          // 执行1次
sum = (1 + n) * n / 2;         // 执行1次
printf("%d", sum);             // 执行1次

时间复杂度为O(1)

7.4 线性阶

int i;
for (i = 0; i < n; i++) {
    
    
    /* 时间复杂度为O(1)的程序步骤序列 */
}

时间复杂度为O(n)

7.5 对数阶

int count = 1;
while (count < n) {
    
    
    count = count * 2;
    /* 时间复杂度为O(1)的程序步骤序列 */
}

时间复杂度为O(log₂n)

7.6 平方阶

int i,j;
for (i = 0; i < n; i++) {
    
    
    for (j = 0; j < n; j++) {
    
    
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}

时间复杂度为O(n²)

再举几例：

int i,j;
for (i = 0; i < n; i++) {
    
    
    for (j = 0; j < m; j++) {
    
    
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}

时间复杂度为O(n×m)

int i,j;
for (i = 0; i < n; i++) {
    
    
    for (j = i; j < n; j++) {
    
    
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}

执行次数为n+(n-1)+(n-2)+······+1=(n²+n)/2

时间复杂度为O(n²)

int i,j;
for (i = 0; i < n; i++) {
    
    
    for (j = 0; j < n; j++) {
    
    
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}
for (i = 0; i < n; i++) {
    
    
    for (j = i; j < n; j++) {
    
    
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}

时间复杂度为O(n²)

8.常见的时间复杂度

如下表：

它们耗时从小到大依次为：

9.最坏情况和平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除了特别指定，我们提到的运行时间都是最坏情况的运行时间。

平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。

10.算法空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n)=O(f(n))，其中，n为问题的规模，f(n)为语句关于n所占存储空间的函数。

通常，我们都使用“时间复杂度”指运行时间的需求，使用“空间复杂度”指空间需求。当不用限定词地使用“复杂度”时，通常都是指时间复杂度。