聊一聊插入排序和比较排序

简介

插入排序和比较排序是排序算法中比较基础和简单的两种，其时间复杂度均为$O(N^{2})$，在分析算法时间复杂度时，咱们每每会只会分析比较开销，可是交换开销也确实存在。这里我将综合比较开销和交换开销，来分析一下插入排序和比较排序的区别，以及什么时候选择插入排序？什么时候该选择比较排序？

我以前的文章 排序算法详解 里给出了几个基本排序算法的JavaScript版本实现，感兴趣的也能够移步。

空间复杂度

插排和选排的均在交换时使用了一个临时空间，其空间复杂度均为$O(1)$。并且插排和选排在排序时同时维护了一个已排序的有序列表和一个待排序的无序列表，不一样在于：

• 插排从无序列表中取第一个数，与有序列表的数依次比较，有序列表的已排数据的位置都可能发生变化。
• 选排从无序列表中取最小数，只和无序列表中第一个数交换，此时无序列表第一个数归于有序列表（至关于最后一个数）。

在每一轮排序过程当中，均须要有一个临时空间用来存储无序列表提取的这一个数，用于将来的交换。

时间复杂度

众所周知，插排和选排的时间复杂度均为$O(N^{2})$。咱们在分析时间复杂度的时候，其实都是分析的比较时间复杂度，可是计算机作算法的时候除了比较，还有交换，并非说交换时间复杂度不重要，而是它大部分状况相对于比较复杂度能够忽略，至于缘由，接下来结合比较和交换开销，来分析插排和选排，天然就明白了。

比较复杂度对比

• 插入排序

  • 最差状况：最差状况下反向有序，每一轮插入，都须要依次比较到有序列表的第一个数，第一轮比较0次，第二轮比较1次，第N轮比较N-1次。一共比较$\frac{N \times (N-1)} {2}$次，复杂度$O(N^{2})$
  • 最好状况：最好状况下有序，每一轮插入，都只须要比较1次，一共比较$N$次，复杂度$O(N)$
  • 平均状况：平均状况下，每一轮插入，假设依次比较到有序列表的中间位置，一共比较$\frac {N \times (N-1)} {4}$次，复杂度$O(N^{2})$
• 选择排序

  选择排序比较次数是固定的，每一轮都须要从待排序的无序列表中选取一个最小（或最大）的数，选取中都须要比较到最后一个元素才能获得结果。第一轮比较N-1次，第N轮比较0次。一共比较$\frac {N \times (N-1)} {2}$次，复杂度$O(N^{2})$

所以能够得出结论：在最差状况下，二者复杂度同样。在最好状况下，二者复杂度差别是比较大的（1个次方），而在平均状况下，插排的比较次数也只是选排的一半。这也是关于插排和选排的通用结论，通常状况下插排优于选排，主要就在于插排是插入有序列表，而选排是须要在无序列表中选择一个最大值（或最小值），想象一下咱们斗地主摸牌，摸到一张牌咱们是能够立刻从小到大判断插入到哪的（这里假设只能从小到大比较），而没必要每一张牌都对比一下。

可是上面的结论只讨论了比较复杂度，其实在[为何说平均状况下，插入排序比选择排序快? - 莫涛的回答 - 知乎
](https://www.zhihu.com/questio...Stack Overflow上，也有人对这种回答中不谈交换表示疑惑，下面咱们再来分析一下交换复杂度。

交换复杂度对比

• 插入排序

  • 最差状况：每一次比较完都须要交换。第一轮交换0次，第二轮交换1次，第N轮交换N-1次。一共交换$\frac{N \times (N-1)} {2}$次，复杂度$O(N^{2})$
  • 最好状况：每一次比较完都无需交换，总共交换$0$次，复杂度$O(0)$
  • 平均状况：每一轮都插入到中间位置，总共交换次数为$\frac{N \times (N-1)} {4}$次，复杂度$O(N^{2})$

• 选择排序

  • 最差状况：每一轮都须要交换，总共交换$N$次，复杂度$O(N)$
  • 最好状况：每一轮都无需交换，总共交换$0$次，复杂度$O(0)$
  • 平均状况：有一半轮次须要交换，总共交换$\frac N 2$次，复杂度$O(N)$

交换复杂度的对比中咱们能够得出：最好状况下二者都无需交换，然而在最差和平均状况下，插入排序的交换次数都高于选择排序，差别为一个次方。能够看出差别仍是很大的，单从这样来看，是没法忽略其影响的。

影响时间复杂度的其余因素

其实，在《算法导论》一书中还提到了一个算法性能分析依赖的如下要素：

1. 待排项数
2. 这些项已排序程度
3. 项值的限制
4. 计算机体系结构
5. 使用的存储设备种类（主存，磁盘或磁带）

回到这个例子中，咱们能够假设忽略硬件的影响、项值无限制。而已排序程度随机（也就是选用平均复杂度，不过通常算法分析都采用最坏状况下的复杂度做为瓶颈进行分析），所以分析要素只剩下待排项数N，可使用上面的分析给出结论。

结论

插入排序和比较排序谁更优？主要在于比较开销和交换开销的量级：

1. 若是二者量级至关，则插入排序优于选择排序
2. 若是比较开销量级小于交换开销，则选择排序优于插入排序
3. 若是比较开销量级大于交换开销，若是差异不大则难以比较，若是差别较大，则能够忽略交换复杂度，此时插入排序优于选择排序

事实上，交换通常直接交换内存地址（指针）而不是交换真实的数据，而比较则须要CPU的一些运算。这里的一个回答便给出了自定义赋值函数，若是直接交换数据，当数据量过大，交换开销大大增长，此时插入排序反而不如选择排序，由于其交换次数平均状况下和选择排序不在一个量级。

固然，因为交换排序进行了过多的交换次数（也就是写操做），若是使用Flash Memory，则须要额外注意，由于Flash Memory的擦除次数有限，过多的写操做会消耗其擦除次数，从而消耗Flash Memory的寿命。

总结 & 参考

通常状况下，插入排序确实优于选择排序，但也有须要注意的点，而不仅仅是只判断比较复杂度那么简单。须要咱们了解清楚再作判断。

文章参考了如下资料：

1. Insertion Sort vs. Selection Sort
2. 为何说平均状况下，插入排序比选择排序快? - 知乎
3. When should one use Insertion vs. Selection sort?