一、算法
算法是指令的集合，是为解决特定问题而规定的一系列操作。它是明确定义的可计算过程，以一个数据集合为输入，并产生一个数据集合作为输出，简单来说算法就是计算机解题的过程。
- 举例：如何求1+2+3+...100=？
- 算法1：依次相加
- 算法2：高斯算法：首尾相加*(100/2)
- 算法3：使用递归实现：sum(100)=sum(99)+100 sum(99)=sum(98)+99 ... sum(2)=sum(1)+2 sum(1)=1
二、评价算法优劣的依据：复杂度(时间复杂度和空间复杂度)
算法的复杂性体现在运行该算法时的计算机所需资源的多少上，计算机资源最重要的是时间和空间资源，因此复杂度分为时间复杂度和空间复杂度。
- 时间复杂度：执行算法所需要的计算工作量。
- 空间复杂度：执行算法所需要的内存空间。
1、时间复杂度(TImecomplexit)定义：
1）时间频度：
- 一个算法执行所耗费的时间,从理论上是不能算出来的,必须上机运行测试才能知道。
- 但我们不可能也没有必要对每个算法都上机测试。
- 一个算法花费的时间与算法中语句的执行次数成正比例,哪个算法中语句执行次数多,它花费时间就多。
- 一个算法中的语句执行次数称为语句频度或时间频度,表示为T(n),n表示问题的规模。
2）时间复杂度：
- 但有时我们想知道它变化时呈现什么规律,想知道问题的规模,而不是具体的次数,此时引入时间复杂度。
- 一般情况下,算法中基本操作重复执行的次数是问题规模n的某个函数,用T(N)表示,若有某个辅助函数f(n),使得当n趋近于无穷大时,T(n)/f(n)的极限值为不等于零的常数,则称f(n)是T(n)的同数量级函数。记作T(n)=O(f(n)),称O(f(n))为算法的渐进时间复杂度,简称时间复杂度。
- T(n)=O(fn)
- 或者说:时间复杂度就是时间频度去掉低阶项和首项常数。
- 注意:时间频度与时间复杂度是不同的,时间频度不同但时间复杂度可能相同。
- 比如:某两个算法的时间频度是
- T(n)=100000n(的平方)+10n+6 T(n)=n(的平方)
- T(n)=10n(的平方)+10n+6 T(n)=n(的平方)
- 但是时间复杂度都是T(n)=O(n(的平方))
3）最坏时间复杂度和平均时间复杂度
- 最坏情况下的时间复杂度称最坏时间复杂度。
- 一般不特别说明,讨论的时间复杂度均是最坏情况下的时间复杂度。
- 这样做的原因是:最坏情况下的时间复杂度是算法在任何输入实例上运行时间的上界,这就保证了算法的运行时间不会比任何更长。
- 在最坏情况下的时间复杂度为T(n)=O(n),它表示对于任何输入实例,该算法的运行时间不可能大于O(n)。
- 平均时间复杂度是指所有可能的输入实例均已等概率出现的情况下，算法的期望运行时间。鉴于平均复杂度难计算、有很多算法的平均情况和最差情况的复杂度是一样的，所以一般讨论最坏时间复杂度。
- 为了进一步说明算法的时间复杂度，定义了O(算法时间复杂度的上界，最坏情况)、Ω(算法时间复杂度的下界，最好情况)、Θ(算法时间复杂度的精确界，最好和最坏是同一阶 =)