[C++]五种常见排序

希尔排序

希尔排序，也称递减增量排序算法，是插入排序的一种更高效的改进版本。希尔排序是非稳定排序算法。

希尔排序是基于插入排序的以下两点性质而提出改进方法的：

插入排序在对几乎已经排好序的数据操作时，效率高，即可以达到线性排序的效率

但插入排序一般来说是低效的，因为插入排序每次只能将数据移动一位

算法实现

原始的算法实现在最坏的情况下需要进行O(n2)的比较和交换。V. Pratt的书[1]对算法进行了少量修改，可以使得性能提升至O(nlog2 n)。这比最好的比较算法的O(n log n)要差一些。

希尔排序通过将比较的全部元素分为几个区域来提升插入排序的性能。这样可以让一个元素可以一次性地朝最终位置前进一大步。然后算法再取越来越小的步长进行排序，算法的最后一步就是普通的插入排序，但是到了这步，需排序的数据几乎是已排好的了（此时插入排序较快）。

假设有一个很小的数据在一个已按升序排好序的数组的末端。如果用复杂度为O(n2)的排序（冒泡排序或插入排序），可能会进行n次的比较和交换才能将该数据移至正确位置。而希尔排序会用较大的步长移动数据，所以小数据只需进行少数比较和交换即可到正确位置。

一个更好理解的希尔排序实现：将数组列在一个表中并对列排序（用插入排序）。重复这过程，不过每次用更长的列来进行。最后整个表就只有一列了。将数组转换至表是为了更好地理解这算法，算法本身仅仅对原数组进行排序（通过增加索引的步长，例如是用i += step_size而不是i++）。

例如，假设有这样一组数[ 13 14 94 33 82 25 59 94 65 23 45 27 73 25 39 10 ]，如果我们以步长为5开始进行排序，我们可以通过将这列表放在有5列的表中来更好地描述算法，这样他们就应该看起来是这样：
13 14 94 33 82
25 59 94 65 23
45 27 73 25 39
10
然后我们对每列进行排序：
10 14 73 25 23
13 27 94 33 39
25 59 94 65 82
45
将上述四行数字，依序接在一起时我们得到：[ 10 14 73 25 23 13 27 94 33 39 25 59 94 65 82 45 ].这时10已经移至正确位置了，然后再以3为步长进行排序：
10 14 73
25 23 13
27 94 33
39 25 59
94 65 82
45
排序之后变为：
10 14 13
25 23 33
27 25 59
39 65 73
45 94 82
94
最后以1步长进行排序（此时就是简单的插入排序了）。

步长序列

步长的选择是希尔排序的重要部分。只要最终步长为1任何步长序列都可以工作。算法最开始以一定的步长进行排序。然后会继续以一定步长进行排序，最终算法以步长为1进行排序。当步长为1时，算法变为普通插入排序，这就保证了数据一定会被排序。

Donald Shell最初建议步长选择为 $\frac{n}{2}$ 并且对步长取半直到步长达到1。虽然这样取可以比 ${\mathcal {O}}(n^{2})$ 类的算法（插入排序）更好，但这样仍然有减少平均时间和最差时间的余地。可能希尔排序最重要的地方在于当用较小步长排序后，以前用的较大步长仍然是有序的。比如，如果一个数列以步长5进行了排序然后再以步长3进行排序，那么该数列不仅是以步长3有序，而且是以步长5有序。如果不是这样，那么算法在迭代过程中会打乱以前的顺序，那就不会以如此短的时间完成排序了。

步长序列最坏情况下复杂度

${n/2^i}$ $\mathcal{O}$ $(n^2)$

$2^k - 1$ $\mathcal{O}$ $(n^{3/2})$

$2^i 3^j$ $\mathcal{O}$ $( n\log^2 n )$

已知的最好步长序列是由Sedgewick提出的(1, 5, 19, 41, 109,...)，该序列的项来自 $9\times 4^{i}-9\times 2^{i}+1$ 和 $2^{{i+2}}\times (2^{{i+2}}-3)+1$ 这两个算式[1]。这项研究也表明“比较在希尔排序中是最主要的操作，而不是交换。”用这样步长序列的希尔排序比插入排序要快，甚至在小数组中比快速排序和堆排序还快，但是在涉及大量数据时希尔排序还是比快速排序慢。

另一个在大数组中表现优异的步长序列是（斐波那契数列除去0和1将剩余的数以黄金分割比的两倍的幂进行运算得到的数列）：(1, 9, 34, 182, 836, 4025, 19001, 90358, 428481, 2034035, 9651787, 45806244, 217378076, 1031612713,…)[2]

步长序列	最坏情况下复杂度
${n/2^i}$	$\mathcal{O}$ $(n^2)$
$2^k - 1$	$\mathcal{O}$ $(n^{3/2})$
$2^i 3^j$	$\mathcal{O}$ $( n\log^2 n )$

程序代码

template <typename _Tp>
void shell_sort(_Tp *arr, int length) {
    int h = 1;
    while (h < length / 3) {
        h = 3 * h + 1;
    }
    while (h >= 1) {
        for (int i = h; i < length; ++i) {
            for (int j = i; j >= h && arr[j] < arr[j - h]; j -= h) {
                swap(arr[j], arr[j - h]);
            };
        };
        h = h / 3;
    };
};

快速排序

快速排序（英语：Quicksort），又称划分交换排序（partition-exchange sort），简称快排，一种排序算法，最早由东尼·霍尔提出。在平均状况下，排序 $n$ 个项目要 $\ O(n\log n)$ （大O符号）次比较。在最坏状况下则需要 $O(n^{2})$ 次比较，但这种状况并不常见。事实上，快速排序 $\Theta (n\log n)$ 通常明显比其他算法更快，因为它的内部循环（inner loop）可以在大部分的架构上很有效率地达成。

算法实现

快速排序使用分治法（Divide and conquer）策略来把一个序列（list）分为两个子序列（sub-lists）。

步骤为：

从数列中挑出一个元素，称为“基准”（pivot），

重新排序数列，所有比基准值小的元素摆放在基准前面，所有比基准值大的元素摆在基准后面（相同的数可以到任何一边）。在这个分割结束之后，该基准就处于数列的中间位置。这个称为分割（partition）操作。

递归地（recursively）把小于基准值元素的子数列和大于基准值元素的子数列排序。

递归到最底部时，数列的大小是零或一，也就是已经排序好了。这个算法一定会结束，因为在每次的迭代（iteration）中，它至少会把一个元素摆到它最后的位置去。

正规分析

从一开始快速排序平均需要花费 $O(n\log n)$ 时间的描述并不明显。但是不难观察到的是分割运算，数组的元素都会在每次循环中走访过一次，使用 $O(n)$ 的时间。在使用结合（concatenation）的版本中，这项运算也是 $O(n)$ 。

在最好的情况，每次我们运行一次分割，我们会把一个数列分为两个几近相等的片段。这个意思就是每次递归调用处理一半大小的数列。因此，在到达大小为一的数列前，我们只要作 $\log n$ 次嵌套的调用。这个意思就是调用树的深度是 $O(\log n)$ 。但是在同一层次结构的两个程序调用中，不会处理到原来数列的相同部分；因此，程序调用的每一层次结构总共全部仅需要 $O(n)$ 的时间（每个调用有某些共同的额外耗费，但是因为在每一层次结构仅仅只有 $O(n)$ 个调用，这些被归纳在 $O(n)$ 系数中）。结果是这个算法仅需使用 $O(n\log n)$ 时间。

另外一个方法是为 $T(n)$ 设立一个递归关系式，也就是需要排序大小为 $n$ 的数列所需要的时间。在最好的情况下，因为一个单独的快速排序调用牵涉了 $O(n)$ 的工作，加上对 $n/2$ 大小之数列的两个递归调用，这个关系式可以是：

$T(n)=O(n)+2T(n/2)$

解决这种关系式类型的标准数学归纳法技巧告诉我们 $T(n)=O(n\log n)$ 。

事实上，并不需要把数列如此精确地分割；即使如果每个基准值将元素分开为99%在一边和1%在另一边，调用的深度仍然限制在 $100\log n$ ，所以全部运行时间依然是 $O(n\log n)$ 。

然而，在最坏的情况是，两子数列拥有大各为 $1$ 和 $n-1$ ，且调用树（call tree）变成为一个 $n$ 个嵌套（nested）调用的线性连串（chain）。第 $i$ 次调用作了 $O(n-i)$ 的工作量，且 $\sum _{i=0}^{n}(n-i)=O(n^{2})$ 递归关系式为：

$T(n)=O(n)+T(1)+T(n-1)=O(n)+T(n-1)$

这与插入排序和选择排序有相同的关系式，以及它被解为 $T(n)=O(n^{2})$ 。

程序代码

template <typename _Tp>
void quick_sort(int start, int end, _Tp *arr) {
	int i = start, j = end; _Tp = arr[start];
	if (i >= j) return;
	while (i != j) {
		while (i < j && arr[j] >= pivot) --j;
		while (i < j && arr[i] <= pivot) ++i;
		if (i < j) swap(arr[i], arr[j]);	
	};
	swap(arr[i], arr[start]);
	quick_sort(start, i - 1, arr);
	quick_sort(i + 1, end, arr);
};

归并排序

归并排序（英语：Merge sort，或mergesort），是创建在归并操作上的一种有效的排序算法，效率为 $O(n\log n)$ （大O符号）。1945年由约翰·冯·诺伊曼首次提出。该算法是采用分治法（Divide and Conquer）的一个非常典型的应用，且各层分治递归可以同时进行。

归并操作

归并操作（merge），也叫归并算法，指的是将两个已经排序的序列合并成一个序列的操作。归并排序算法依赖归并操作。

递归法（Top-down）

申请空间，使其大小为两个已经排序序列之和，该空间用来存放合并后的序列

设定两个指针，最初位置分别为两个已经排序序列的起始位置

比较两个指针所指向的元素，选择相对小的元素放入到合并空间，并移动指针到下一位置

重复步骤3直到某一指针到达序列尾

将另一序列剩下的所有元素直接复制到合并序列尾

迭代法（Bottom-up）

原理如下（假设序列共有 $n$ 个元素）：

将序列每相邻两个数字进行归并操作，形成 $ceil(n/2)$ 个序列，排序后每个序列包含两/一个元素

若此时序列数不是1个则将上述序列再次归并，形成 $ceil(n/4)$ 个序列，每个序列包含四/三个元素

重复步骤2，直到所有元素排序完毕，即序列数为1

程序代码

template <typename _Tp>
void merge_sort(int start, int end, _Tp *arr) {
	if (start == end) return;
	int mid = (start + end) / 2;
	merge_sort(start, mid, arr);
	merge_sort(mid + 1, end, arr);
	int i = start, j = mid + 1, k = start;
	while (i <= mid && j <= end) if (arr[i] <= arr[j]) rad[k] = arr[i], ++k, ++i; else rad[k] = arr[j], ++k, ++j;
	while (i <= mid) rad[k] = arr[i], ++k, ++i;
	while (j <= end) rad[k] = arr[j], ++k, ++j;
	for (int i = start; i <= end; ++i) arr[i] = rad[i];
};

桶排序

桶排序（Bucket sort）或所谓的箱排序，是一个排序算法，工作的原理是将数组分到有限数量的桶里。每个桶再个别排序（有可能再使用别的排序算法或是以递归方式继续使用桶排序进行排序）。桶排序是鸽巢排序的一种归纳结果。当要被排序的数组内的数值是均匀分配的时候，桶排序使用线性时间（ $\Theta (n)$ （大O符号））。但桶排序并不是比较排序，他不受到 $O(n\log n)$ 下限的影响。

桶排序以下列程序进行：

设置一个定量的数组当作空桶子。

寻访序列，并且把项目一个一个放到对应的桶子去。

对每个不是空的桶子进行排序。

从不是空的桶子里把项目再放回原来的序列中。

程序代码

假设数据范围分布在[0, 100)之间

桶排序简单实现方法：

for (int i = 0; i < n; ++i) {
	cin >> x; ++b[x];	
};
for (int i = 0; i < 100; ++i)
	while (b[i] > 0) {
		cout << i << ' '; --b[i];	
	};

桶排序STL实现，每个桶内部用链表表示，在数据入桶的同时插入排序。然后把各个桶中的数据合并：

#include <iterator>
#include <iostream>
#include <vector>
using namespace std;
const int BUCKET_NUM = 10;
struct ListNode {
	explicit ListNode(int i = 0) : mData(i), mNext(NULL) {}
	ListNode* mNext;
	int mData;
};
ListNode* insert(ListNode* head, int val) {
	ListNode dummyNode;
	ListNode *newNode = new ListNode(val);
	ListNode *pre, *curr;
	dummyNode.mNext = head;
	pre = &dummyNode;
	curr = head;
	while(NULL != curr && curr->mData <= val) {
		pre = curr;
		curr = curr->mNext;
	};
	newNode->mNext = curr;
	pre->mNext = newNode;
	return dummyNode.mNext;
};
ListNode* Merge(ListNode *head1,ListNode *head2) {
	ListNode dummyNode;
	ListNode *dummy = &dummyNode;
	while (NULL != head1 && NULL != head2) {
		if (head1->mData <= head2->mData) {
			dummy->mNext = head1;
			head1 = head1->mNext;
		} else {
			dummy->mNext = head2;
			head2 = head2->mNext;
		};
		dummy = dummy->mNext;
	};
	if (NULL != head1) dummy->mNext = head1;
	if (NULL != head2) dummy->mNext = head2;	
	return dummyNode.mNext;
};
void BucketSort(int n,int arr[]) {
	vector <ListNode*> buckets(BUCKET_NUM,(ListNode*)(0));
	for (int i = 0; i < n; ++i) {
		int index = arr[i] / BUCKET_NUM;
		ListNode *head = buckets.at(index);
		buckets.at(index) = insert(head, arr[i]);
	};
	ListNode *head = buckets.at(0);
	for (int i = 1; i < BUCKET_NUM; ++i) {
		head = Merge(head,buckets.at(i));
	};
	for (int i = 0; i < n; ++i) {
		arr[i] = head->mData;
		head = head->mNext;
	};
};

冒泡排序

冒泡排序（英语：Bubble Sort）是一种简单的排序算法。它重复地走访过要排序的数列，一次比较两个元素，如果他们的顺序错误就把他们交换过来。走访数列的工作是重复地进行直到没有再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。

冒泡排序对 $n$ 个项目需要O( $n^{2}$ )的比较次数，且可以原地排序。尽管这个算法是最简单了解和实现的排序算法之一，但它对于包含大量的元素的数列排序是很没有效率的。

冒泡排序是与插入排序拥有相等的运行时间，但是两种算法在需要的交换次数却很大地不同。在最坏的情况，冒泡排序需要 $O(n^{2})$ 次交换，而插入排序只要最多 $O(n)$ 交换。冒泡排序的实现（类似下面）通常会对已经排序好的数列拙劣地运行（ $O(n^{2})$ ），而插入排序在这个例子只需要 $O(n)$ 个运算。因此很多现代的算法教科书避免使用冒泡排序，而用插入排序取代之。冒泡排序如果能在内部循环第一次运行时，使用一个旗标来表示有无需要交换的可能，也可以把最优情况下的复杂度降低到 $O(n)$ 。在这个情况，已经排序好的数列就无交换的需要。若在每次走访数列时，把走访顺序反过来，也可以稍微地改进效率。有时候称为鸡尾酒排序，因为算法会从数列的一端到另一端之间穿梭往返。

冒泡排序算法的运作如下：

比较相邻的元素。如果第一个比第二个大，就交换他们两个。

对每一对相邻元素作同样的工作，从开始第一对到结尾的最后一对。这步做完后，最后的元素会是最大的数。

针对所有的元素重复以上的步骤，除了最后一个。

持续每次对越来越少的元素重复上面的步骤，直到没有任何一对数字需要比较。

由于它的简洁，冒泡排序通常被用来对于程序设计入门的学生介绍算法的概念。

冒泡排序

使用冒泡排序为一列数字进行排序的过程
分类排序算法数据结构数组最坏时间复杂度 $O(n^{2})$ 最优时间复杂度 $O(n)$ 平均时间复杂度 $O(n^{2})$ 最坏空间复杂度总共 $O(n)$ ，需要辅助空间 $O(1)$

程序代码

template <typename _Tp>
void bubble_sort(int start, int end, _Tp *arr) {
    for (int i = start; i < end - 1; ++i)
        for (int j = start; j < end - 1 - i; ++j)
            if (arr[j] > arr[j + 1])
                swap(arr[j], arr[j + 1]);
};

[C++]五种常见排序

希尔排序

算法实现

步长序列

程序代码

快速排序

算法实现

正规分析

程序代码

归并排序

归并操作

递归法（Top-down）

迭代法（Bottom-up）

程序代码

桶排序

程序代码

冒泡排序

程序代码

猜你喜欢