参考：https://www.cnblogs.com/onepixel/articles/7674659.html
0.1 算法分类
十种常见排序算法可以分为两大类：
（选泡插，快归堆希统计基）
比较类排序：通过比较来决定元素间的相对次序，由于其时间复杂度不能突破O(nlogn)，因此也称为非线性时间比较类排序。
非比较类排序：不通过比较来决定元素间的相对次序，它可以突破基于比较排序的时间下界，以线性时间运行，因此也称为线性时间非比较类排序。
0.2 算法复杂度
0.3 相关概念
稳定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面。
不稳定：如果a原本在b的前面，而a=b，排序之后 a 可能会出现在 b 的后面。
时间复杂度：对排序数据的总的操作次数。反映当n变化时，操作次数呈现什么规律。
空间复杂度：是指算法在计算机内执行时所需存储空间的度量，它也是数据规模n的函数。
冒泡排序是一种简单的排序算法。它重复地走访过要排序的数列，一次比较两个元素，如果它们的顺序错误就把它们交换过来。走访数列的工作是重复地进行直到没有再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。
1.1 算法描述
一趟：
比较相邻的元素。如果第一个比第二个大，就交换它们两个；
对每一对相邻元素作同样的工作，从开始第一对到结尾的最后一对，这样在最后的元素应该会是最大的数；
针对所有的元素重复以上的步骤，除了最后一个；
（一趟下来，最大的那个数就排在了最后面，那么下一趟对前n-1个数做同样的操作）
重复步骤1~3，直到排序完成。
1.2 动图演示
黄色表示已排序部分，蓝色表示未排序部分，
1.3 代码实现
//冒泡法
/*
相邻元素比较：选择小的元素放在前面
非相邻元素比较，则是插入法的思想
*/
void BubbleSort(int a[], int len)
{
int i, j, tmp;
int exchange = 1;
//外层比较，确定n-1趟
for (i = 0; (i < len-1) && (exchange >0); i++) {
int tmp;
exchange = 0;
for (j = len - 1 ; j >0 ; j--){ //从后往前冒泡
if (a[j ] < a[j-1]){ //相邻元素比较
tmp = a[j ];
a[j] = a[j-1];
a[j-1] = tmp;
exchange = 1;
}
}
}
}选择排序(Selection-sort)是一种简单直观的排序算法。它的工作原理：
选择前面n-1个数中的最大值，和当前队尾数据交换，因为要交换最大值，所以要记录最大值位置的索引
首先在未排序序列中找到最大元素，存放到排序序列的起始位置，然后，再从剩余未排序元素中继续寻找最大元素，然后放到已排序序列的末尾。以此类推，直到所有元素均排序完毕。
2.1 算法描述
n个记录的直接选择排序可经过n-1趟直接选择排序得到有序结果。具体算法描述如下：
初始状态：无序区为R[1..n]，有序区为空；
第i趟排序(i=1,2,3…n-1)开始时，当前有序区和无序区分别为R[1..i-1]和R(i..n）。该趟排序从当前无序区中-选出关键字最小的记录 R[k]，将它与无序区的第1个记录R交换，使R[1..i]和R[i+1..n)分别变为记录个数增加1个的新有序区和记录个数减少1个的新无序区；
n-1趟结束，数组有序化了。
2.2 动图演示
黄色表示已排序部分，蓝色表示未排序部分，红色表示从未排序中选择的最小值
2.3 代码实现
//选择排序法
/*
从该位置后面选择最小的元素放在该位置
*/
void SelectSort(int a[],int len)
{
//外层循环跑n趟
for (int i = 0; i < len; i++){
//内层循环找出最小值进行交换
int tmp;
for (int j = i; j < len; j++){
if (a[j] < a[i]){
tmp = a[j];
a[j] = a[i];
a[i] = tmp;
}
}
}
}
2.4 算法分析
表现最稳定的排序算法之一，因为无论什么数据进去都是O(n2)的时间复杂度，所以用到它的时候，数据规模越小越好。唯一的好处可能就是不占用额外的内存空间了吧。理论上讲，选择排序可能也是平时排序一般人想到的最多的排序方法了吧。
插入排序（Insertion-Sort）的算法描述是一种简单直观的排序算法。它的工作原理是通过构建有序序列，对于未排序数据，在已排序序列中从后向前扫描，找到相应位置并插入。
3.1 算法描述
一般来说，插入排序都采用in-place在数组上实现。具体算法描述如下：
从第一个元素开始，该元素可以认为已经被排序；
取出下一个元素key，在已经排序的元素序列中从后向前扫描；
如果扫描到的元素（已排序）大于新元素key，将扫描到的元素移到下一位置；
重复步骤3，直到找到已排序的元素小于或者等于新元素的位置；
将新元素插入到该位置后；
从接下来的n-1个开始
重复步骤2~5。
3.2 动图演示
黄色表示已排序部分，蓝色表示未排序部分，红色表示当前正在处理的key
3.2 代码实现
// 插入排序法
/*
插入排序法：
拿着当前位置元素和前面的元素进行比较，只要当前元素比前面的元素大，则插入到该元素前面
直到前面的元素不满足要求，记录插入位置。
先拿出来 再比较插入
*/
void InsertSort(int a[], int len)
{
int i, j, k;
int tmp;
for (i = 1; i < len; i++) {
k = i; //待插入元素位置
tmp = a[k]; //先拿出来
for (j = i - 1; (j >= 0) && (a[j] > tmp); j--){
a[j + 1] = a[j]; //只要大，则元素后移
k = j; //记录移动的位置
}
a[k] = tmp; //元素插入
}
}
3.4 算法分析
插入排序在实现上，通常采用in-place排序（即只需用到O(1)的额外空间的排序），因而在从后向前扫描过程中，需要反复把已排序元素逐步向后挪位，为最新元素提供插入空间。
1959年Shell发明，第一个突破O(n2)的排序算法，是简单插入排序的改进版。它与插入排序的不同之处在于，它会优先比较距离较远的元素。希尔排序又叫缩小增量排序。
4.1 算法描述
先将整个待排序的记录序列分割成为若干子序列分别进行直接插入排序，具体算法描述：
选择一个增量序列t1，t2，…，tk，其中ti>tj，tk=1；
按增量序列个数k，对序列进行k 趟排序；
每趟排序，根据对应的增量ti，将待排序列分割成若干长度为m 的子序列，分别对各子表进行直接插入排序。仅增量因子为1 时，整个序列作为一个表来处理，表长度即为整个序列的长度。
4.2 动图演示
4.3 代码实现
//核心思想还是使用插入排序算法
//通过分组，让数据在小规模内有序，减小递归增量使得整体有序
void ShellSort(int a[], int len)
{
int i, j, k, tmp;
int gap = len;
do{
//gap的选择可以有多中方案，如gap = gap/2,这里使用的是业界统一实验平均情况最好的，收敛为1
gap = gap / 3 + 1;
for (i = gap; i < len; i += gap) //分成len/gap组
{
//每组使用插入排序
k = i;
tmp = a[k];
for (j = i - gap; (j >= 0) && (a[j] > tmp); j -= gap){
a[j + gap] = a[j];
k = j;
}
a[k] = tmp;
}
} while (gap > 1);
}
4.4 算法分析
希尔排序的核心在于间隔序列的设定。既可以提前设定好间隔序列，也可以动态的定义间隔序列。动态定义间隔序列的算法是《算法（第4版）》的合著者Robert Sedgewick提出的。
归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法（Divide and Conquer）的一个非常典型的应用。将已有序的子序列合并，得到完全有序的序列；即先使每个子序列有序，再使子序列段间有序。若将两个有序表合并成一个有序表，称为2-路归并。
5.1 算法描述
把长度为n的输入序列分成两个长度为n/2的子序列；
对这两个子序列分别采用归并排序；
将两个排序好的子序列合并成一个最终的排序序列。
5.2 动图演示
5.3 代码实现
//归并排序
/*
使用分治思想：
假设两个子数组是有序的，将其按照有序序列合并，合并组成新的有序数组，再与其他部分合并
*/
void merge(int arr[], int low, int mid, int high, int temp[])
{
int i = low; //左子数组开始位置
int j = mid + 1; //右子数组开始位置
int t = 0; //临时空间指针
while (i <= mid && j <= high)
{
if (arr[i] < arr[j])
temp[t++] = arr[i++];
else
temp[t++] = arr[j++];
}
//将左边剩余元素填充进temp中
while (i <= mid)
temp[t++] = arr[i++];
//将右边子数组剩余部分填充到temp中
while (j <= high)
temp[t++] = arr[j++];
//将融合后的数据拷贝到原来的数据对应的子空间中
t = 0;
while (low <= high)
{
arr[low++] = temp[t++];
}
}
void MSort(int arr[], int low, int high, int temp[])
{
if (low < high) //只有low==high为一个元素的时候不用再细分自分组，融合
{
int mid = (low + high) / 2;
//左子数组融合排序
MSort(arr, low, mid, temp);
//右子数组融合排序
MSort(arr, mid + 1, high, temp);
//已经排序好的子数组有序融合
merge(arr, low, mid, high, temp);
}
}5.4 算法分析
归并排序是一种稳定的排序方法。和选择排序一样，归并排序的性能不受输入数据的影响，但表现比选择排序好的多，因为始终都是O(nlogn）的时间复杂度。代价是需要额外的内存空间。
快速排序的基本思想：通过一趟排序将待排记录分隔成独立的两部分，其中一部分记录的关键字均比另一部分的关键字小，则可分别对这两部分记录继续进行排序，以达到整个序列有序。
6.1 算法描述
快速排序使用分治法来把一个串（list）分为两个子串（sub-lists）。具体算法描述如下：
从数列中挑出一个元素，称为 “基准”（pivot）；
重新排序数列，所有元素比基准值小的摆放在基准前面，所有元素比基准值大的摆在基准的后面（相同的数可以到任一边）。在这个分区退出之后，该基准就处于数列的中间位置。这个称为分区（partition）操作；
递归地（recursive）把小于基准值元素的子数列和大于基准值元素的子数列排序。
6.2 动图演示
6.3 代码实现
//快速排序：
/*
选择一个基准，将基准移动到数据中间，使得左边的数据都小于基准，右边的数都大于基准
递归划分，当数据元素等于1个的就是一个的时候就是有序的了
*/
void swap(int arr[], int i, int j)
{
int temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
int partion(int arr[], int low, int high)
{
int privot = arr[low]; //选择第一个元素作为基准
//推动左右指针向中间移动，即将基准移动到中间，low和high中的某一个一定是指向基准的
while (low < high)
{
while ((low < high) && arr[high] >= privot) //如果右边的数比基准大，则不用移动，否则将其交换到左边去
high--;
swap(arr, low, high);
while ((low < high) && arr[low] <= privot)
low++;
swap(arr, low, high);
}
return low; //当low=high的时候则停止划分，由于low和high在移动的过程中，总有一个是指向基准的，这里返回，low其实就是基准在数组中的索引
}
//递归划分，当划分到一个元素的时候，子数组就是有序的
void QSort(int arr[], int low, int high)
{
if (low < high)
{
int idx = partion(arr, low, high);
//递归划分划分左右子数组，让左右子数组有序
QSort(arr, low, idx-1);
QSort(arr, idx+1, high);
}
}
void QucikSort(int arr[], int n)
{
QSort(arr, 0, n - 1);
}堆排序（Heapsort）是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构，并同时满足堆积的性质：即子结点的键值或索引总是小于（或者大于）它的父节点。
7.1 算法描述
堆的性质：
（1）堆是一个完全二叉树，
（2）在父节点的值大于子节点的值
堆通过线性表组织，父节点位置，和子节点位置索引有如下关系。
堆排序的流程：
（1）构建一个堆
（2）堆顶的最大值和最后一个元素交换，最大值放在最后，但是堆已经破坏
（3）对于前n-1个元素构成的堆，从堆顶heapify,依次循环下去
将初始待排序关键字序列(R1,R2….Rn)构建成大顶堆，此堆为初始的无序区；
将堆顶元素R[1]与最后一个元素R[n]交换，此时得到新的无序区(R1,R2,……Rn-1)和新的有序区(Rn),且满足R[1,2…n-1]<=R[n]；
由于交换后新的堆顶R[1]可能违反堆的性质，因此需要对当前无序区(R1,R2,……Rn-1)调整为新堆，然后再次将R[1]与无序区最后一个元素交换，得到新的无序区(R1,R2….Rn-2)和新的有序区(Rn-1,Rn)。不断重复此过程直到有序区的元素个数为n-1，则整个排序过程完成。
7.2 动图演示
（1）动画从一排数字开始
（2）先将一排数字放入数组（这个数组看做堆），显然这个堆是不满足条件的
（3）从最后一个父节点开始对堆进行调整（heapify）使其满足堆的性质（绿色代表调整好了，浅蓝色表示正在调整）
（4）堆构建结束后将堆顶元素与最后一个节点交换，将最大值放在最后（红色元素），剩下的n-1个元素堆的性质被破坏，需要重新做一次heapify使前n-1个元素满足堆的性质，从而循环（4）这个过程实现堆排序
7.3 代码实现
void swap(int arr[], int i, int j)
{
int temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
void heapify(int tree[], int n, int p)
/*
n表示树的节点个数
p表示要处理的当前节点的下标
该函数的功能是：面对一个仅有节点p为，不符合堆的性质的情况。如果在节点p插入一个新元素，插入比其子节点小的数，就破坏了堆的性质（父节点大于子节点），因此需要对堆进行调整：
调整的思路是如果：
如果子节点比父节点大，则将其与子节点交换，使得父节点位置满足堆的性质，但是由于交换可能会破坏子节点的堆的性质，因此要递归地对子节点进行堆化
因为是递归，所以要考虑递归的出口，当节点p达到最后一个叶子节点为止
*/
{
//递归出口
if (p >= n)return; //到达最后一个叶子节点
//计算左右节点的索引，完全二叉树满足的性质
int c1 = 2 * p + 1;
int c2 = 2 * p + 2;
int max =-1;
//判断父节点和左右孩子节点中的最大值
if (c1 < n && tree[c1] > tree[p])
max = c1;
if (c2<n && tree[c2] > tree[p]) //c1,c2小于n防止叶子节点c1,c2不满足而越界
if(max = !-1 && tree[c2]>tree[c1]) //将子结点中最大的那个索引给max
max=c2;
if (max != -1) //交换,叶就是说子树不满足堆父大于子的情况，交换，由于交换改变了子树的父节点，因此需要对子树要调整
{
swap(tree, max, p);
heapify(tree, n, max);//同时对特的子树叶同时做一个heapify
}
}
void build_heap(int tree[], int n)
/*
面对对于一个完全无序的数组，如何构建出一个堆：
思路：从最后一个节点的父节点开始做heapfy，直到根节点，就可以将无序数组组织成堆的形式
*/
{
int last_node = n - 1;
int parent = (last_node-1) / 2; //父节点的位置计算
for (int i = parent; i >= 0; i--)
{
heapify(tree, n, i);
}
return;
}
/*
堆排序：
堆排序将问题分解成了2个步骤：
先建立一个堆，在依据堆顶为最大值的性质，循环抽出堆顶最大值交换到堆的末尾位置，有序序列，由于抽出最大值破坏了堆的性质，因此要重新heapify
而在建立堆的过程中，首先面临的是一堆无序的数，需要从最后一个节点的父节点开始heapify，才能使得整个数组变成堆，其中heapify的过程就是递归将调整父节点子节点的过程
*/
void heap_sort(int tree[], int n)
{
//先建立堆
build_heap(tree, n);
//由于堆顶总是放的是最大值，因此我们将堆顶元素与堆的最后一个元素做交换
//做交换后，前面的n-1个数的堆的性质被破坏，重新做一个heapify
for (int i = n - 1; i >= 0; i--) //从最后一个元素开始交换
{
swap(tree, i, 0);
heapify(tree, i, 0); //i==n-1，前面的n-1个元素构成的堆被破坏，重新从堆顶heapify,
}
}计数排序不是基于比较的排序算法，其核心在于将输入的数据值转化为键存储在额外开辟的数组空间中。 作为一种线性时间复杂度的排序O（n），计数排序要求输入的数据必须是有确定范围的整数。（直方图统计，再按照顺序扔出来）
8.1 算法描述
找出待排序的数组中最大和最小的元素；
统计数组中每个值为i的元素出现的次数，存入数组C的第i项；
对所有的计数累加（从C中的第一个元素开始，每一项和前一项相加）；
反向填充目标数组：将每个元素i放在新数组的第C(i)项，每放一个元素就将C(i)减去1。
8.2 动图演示
8.3 代码实现
void countingSort(vector<int>& arr, int maxValue=100) {
vector<int>bucket(maxValue + 1, 0);
int sortedIndex = 0;
int arrLen = arr.size();
int bucketLen = maxValue + 1;
for (int i = 0; i < arrLen; i++) {
if (!bucket[arr[i]]) {
bucket[arr[i]] = 0;
}
bucket[arr[i]]++;
}
for (int j = 0; j < bucketLen; j++) {
while (bucket[j] > 0) {
arr[sortedIndex++] = j;
bucket[j]--;
}
}
return;
}
8.4 算法分析
计数排序是一个稳定的排序算法。当输入的元素是 n 个 0到 k 之间的整数时，时间复杂度是O(n+k)，空间复杂度也是O(n+k)，其排序速度快于任何比较排序算法。当k不是很大并且序列比较集中时，计数排序是一个很有效的排序算法。
桶排序是计数排序的升级版。它利用了函数的映射关系，高效与否的关键就在于这个映射函数的确定。桶排序 (Bucket sort)的工作的原理：假设输入数据服从均匀分布，将数据分到有限数量的桶里，每个桶再分别排序（有可能再使用别的排序算法或是以递归方式继续使用桶排序进行排）。
9.1 算法描述
设置一个定量的数组当作空桶；
遍历输入数据，并且把数据一个一个放到对应的桶里去；
对每个不是空的桶进行排序；
从不是空的桶里把排好序的数据拼接起来。
9.2 图片演示
9.3 代码实现
//每个桶里面使用冒泡排序（也可使用其他排序算法）
void BubbleSort(vector<int>& arr)
{
int tmp;
for (int i = 0; i < arr.size(); i++)
{
//内存循环两两比较，大则交换，最后的结果是总有一个达到最后,所以下一次循环就只有遍历n-1个
for (int j = 0; j < arr.size() - i - 1; j++)
{
if (arr[j]>arr[j + 1])
{
tmp = arr[j];
arr[j] = arr[j + 1];
arr[j + 1] = tmp;
}
}
}
}
void bucketSort(vector<int>& arr, int bucketSize=5) {
if (arr.size() == 0) {
return ;
}
int i;
int minValue = arr[0];
int maxValue = arr[0];
for (i = 1; i < arr.size(); i++) {
if (arr[i] < minValue) {
minValue = arr[i]; // 输入数据的最小值
}
else if (arr[i] > maxValue) {
maxValue = arr[i]; // 输入数据的最大值
}
}
int bucketCount = int((maxValue - minValue) / bucketSize) + 1; //根据最大最小计算桶的个数
vector<vector<int>>buckets(bucketCount,vector<int>());
// 利用映射函数将数据分配到各个桶中
for (i = 0; i < arr.size(); i++) {
int idx = int((arr[i] - minValue) / bucketSize);
buckets[idx].push_back(arr[i]);
}
arr.clear();
for (i = 0; i < buckets.size(); i++) {
BubbleSort(buckets[i]); // 对每个桶进行排序，这里使用了冒泡排序，可以用上面的任意一种排序代替
for (int j = 0; j < buckets[i].size(); j++) {
arr.push_back(buckets[i][j]);
}
}
return ;
}
9.4 算法分析
桶排序最好情况下使用线性时间O(n)，桶排序的时间复杂度，取决与对各个桶之间数据进行排序的时间复杂度，因为其它部分的时间复杂度都为O(n)。很显然，桶划分的越小，各个桶之间的数据越少，排序所用的时间也会越少。但相应的空间消耗就会增大。
基数排序是按照低位先排序，然后收集；再按照高位排序，然后再收集；依次类推，直到最高位。
有时候有些属性是有优先级顺序的，先按低优先级排序，再按高优先级排序。
最后的次序就是高优先级中更高的在前，高优先级相同时低优先级高的在前。
10.1 算法描述
取得数组中的最大数，并取得位数；
arr为原始数组，从最低位开始取每个位组成radix数组；
对radix进行计数排序（利用计数排序适用于小范围数的特点）；
10.2 动图演示
从一排全黑的数字开始：
先排列按照个位数的大小，将数字分配到不同的桶里，这一遍分完了，虽然数据依然是乱序，但是我们可以看到如果这些数字只有个位数，当 收集的时候可以发现只要仅有个位数的数字已经是有序的了
同理再排列十位数，再次收集的时候，只要是仅有两位数的数字已经是有序的了
10.3 代码实现
/*
* 获取数组a中最大值
*
* 参数说明：
* a -- 数组
* n -- 数组长度
*/
int get_max(int a[], int n)
{
int i, max;
max = a[0];
for (i = 1; i < n; i++)
if (a[i] > max)
max = a[i];
return max;
}
/*
* 对数组按照"某个位数"进行排序(桶排序)
*
* 参数说明：
* a -- 数组
* n -- 数组长度
* exp -- 指数。对数组a按照该指数进行排序。
*
* 例如，对于数组a={50, 3, 542, 745, 2014, 154, 63, 616}；
* (01) 当exp=1表示按照"个位"对数组a进行排序
* (02) 当exp=10表示按照"十位"对数组a进行排序
* (03) 当exp=100表示按照"百位"对数组a进行排序
* ...
*/
void count_sort(int a[], int n, int exp)
{
int output[n]; // 存储"被排序数据"的临时数组
int i, buckets[10] = {0};
// 将数据出现的次数存储在buckets[]中
for (i = 0; i < n; i++)
buckets[ (a[i]/exp)%10 ]++;
// 更改buckets[i]。目的是让更改后的buckets[i]的值，是该数据在output[]中的位置。
for (i = 1; i < 10; i++)
buckets[i] += buckets[i - 1];
// 将数据存储到临时数组output[]中
for (i = n - 1; i >= 0; i--)
{
output[buckets[ (a[i]/exp)%10 ] - 1] = a[i];
buckets[ (a[i]/exp)%10 ]--;
}
// 将排序好的数据赋值给a[]
for (i = 0; i < n; i++)
a[i] = output[i];
}
/*
* 基数排序
*
* 参数说明：
* a -- 数组
* n -- 数组长度
*/
void radix_sort(int a[], int n)
{
int exp; // 指数。当对数组按各位进行排序时，exp=1；按十位进行排序时，exp=10；...
int max = get_max(a, n); // 数组a中的最大值
// 从个位开始，对数组a按"指数"进行排序
for (exp = 1; max/exp > 0; exp *= 10)
count_sort(a, n, exp);
}
10.4 算法分析
基数排序基于分别排序，分别收集，所以是稳定的。但基数排序的性能比桶排序要略差，每一次关键字的桶分配都需要O(n)的时间复杂度，而且分配之后得到新的关键字序列又需要O(n)的时间复杂度。假如待排数据可以分为d个关键字，则基数排序的时间复杂度将是O(d*2n) ，当然d要远远小于n，因此基本上还是线性级别的。
基数排序的空间复杂度为O(n+k)，其中k为桶的数量。一般来说n>>k，因此额外空间需要大概n个左右。