详解三种排序算法及其比较

直接插入排序

直接插入排序（Insertion Sort）可以说是排序里最简单的了。为简化问题，我们下面只讨论升序排序。

代码如下：

voidInsertSort(intarray[],intleft,intright)

{

inttemp;

intj;

for(inti=left+1;i

{

temp=array[i];

j=i-1;

while(j>=left&&array[j]>temp)

array[j+1]=array[j--];

array[j+1]=temp;

}

}

那么它的算法复杂度如下：

时间复杂度

1、最好情况，序列是升序排列，在这种情况下，只需进行 n-1 比较，即 Tbest(n)=O(n)；

2、最坏情况，序列是降序排列，那么此时需要进行的比较共有 12n(n−1) 次，即 Tworse(n)=O(n2)；

3、平均情况，为 Tavg(n)=O(n2)。

空间复杂度

由程序很容易得 S(n)=O(1)。

直接插入排序不适合对于数据量比较大的排序应用。但是，如果需要排序的数据量很小，例如量级小于千，那么直接插入排序还是一个不错的选择，因此在 STL 的 sort 算法和 stdlib 的 qsort 算法中，都将直接插入排序作为快速排序的补充，用于少量元素的排序（通常为 8 个或以下）。

此外直接插入排序有两个常用的优化：二分查找插入排序，希尔排序。下面分别介绍。

二分查找插入排序

因为在一个有序序列中查找一个插入位置，所以可使用二分查找，减少元素比较次数提高效率。

/* 给定一个有序的数组，查找第一个大于等于 value 的下标，不存在返回 -1 */

intBinarySearch(intarray[],intn,intvalue)

{

intleft=;

intright=n-1;

while(left

{

intmiddle=left+((right-left)>>1);

if(array[middle]>=value)

right=middle-1;

else

left=middle+1;

}

return(left

}

voidBinaryInsertSort(intarray[],intleft,intright)

{

for(inti=left+1;i

{

intinsert_index=BinarySearch(array,i,array[i]);

if(insert_index!= -1)// 如果可以插入到前面的有序序列中

{

inttemp=array[i];

intj=i-1;

while(j>=insert_index)

{

array[j+1]=array[j];

j--;

}

array[j+1]=temp;

}

}

}

最好情况下，即序列为升序时，时间复杂度为O(logn)。

其它情况下，除了找到插入点所需的操作数从 O(n) 降为 O(logn) 外，其它的操作并未减小，其时间复杂度依旧是 O(n2)。

希尔排序

希尔排序，也称递减增量排序算法，以其设计者希尔（Donald Shell）的名字命名，该算法由 1959 年公布。

我们举个例子来描述算法流程（以下摘自维基百科）：

假设有这样一组数 ，如果我们以步长为 5 开始进行排序：

然后我们对每列进行排序：

将上述四行数字，依序接在一起时我们得到：，然后再以 3 为步长：

排序之后变为：

最后以 1 为步长进行排序（此时就是简单的插入排序了）。

可想而知，步长的选择是希尔排序的重要部分。

算法最开始以一定的步长进行排序，然后会继续以更小的步长进行排序，最终算法以步长为 1 进行排序。当步长为 1 时，算法变为直接插入排序，这就保证了数据一定会被全部排序。

Donald Shell 最初建议步长选择为 n2，并且对步长取半直到步长达到 1。虽然这样取可以比 O(n2) 类的算法（直接插入排序）更好，但这样仍然有减少平均时间和最差时间的余地。

可能希尔排序最重要的地方在于当用较小步长排序后，以前用的较大步长仍然是有序的。比如，如果一个数列以步长 5 进行了排序然后再以步长 3 进行排序，那么该数列不仅是以步长 3 有序，而且是以步长 5 有序。

如果不是这样，那么算法在迭代过程中会打乱以前的顺序，那就不会以如此短的时间完成排序了。

已知的最好步长序列是由 Sedgewick 提出的 ，该序列的项来自 9⋅4i−9⋅2i+1 和 2i+2⋅(2i+2−3)+1 这两个算式。

这项研究也表明比较在希尔排序中是最主要的操作，而不是交换。

用这样步长序列的希尔排序比插入排序要快，甚至在小数组中比快速排序和堆排序还快，但是在涉及大量数据时希尔排序还是比快速排序慢。

另一个在大数组中表现优异的步长序列是：（斐波那契数列除去 0 和 1，将剩余的数以黄金分区比的两倍的幂进行运算得到的数列）

voidShellSort(intarray[],intn)

{

for(intgap=n>>1;gap>;gap>>=1)

{

for(inti=gap;i

{

inttemp=array[i];

intj=i-gap;

while(j>=&&array[j]>temp)

{

array[j+gap]=array[j];

j-=gap;

}

array[j+gap]=temp;

}

}

}

来源：刘毅https://61mon.com/index.php/archives/193/

-----这里是数学思维的聚集地------

“超级数学建模”（微信号supermodeling），每天学一点小知识，轻松了解各种思维，做个好玩的理性派。50万数学精英都在关注！