本系列的文章列表和相关说明,请查看【一块儿学习排序算法】0 序言
也能够直接到github上查看完整的文章和源码!javascript
排序算法(Sorting algorithms)是什么? Wikipedia 如是说:html
In computer science, a sorting algorithm is an algorithm that puts elements of a list in a certain order.java
也就是说,排序算法,就是某种算法,将列表中的元素按照某种规则排序。常见的如数字大小排序、字典序排序等。本系列例子约定为从小到大的数字排序,其余的相似,关键在于思路。git
一、内部排序和外部排序github
按照数组规模的大小,排序能够分为内部排序
和外部排序
。
内部排序(internal sorting): 所有数组均可放在内存中排序。
外部排序(external sorting): 数组太大,不能所有放在内存中,部分数据在硬盘中。算法
本系列约定为内部排序,关于海量数据的排序,后续补充。数组
二、稳定性
排序法的稳定性(stability): 取决于值相等的两个元素,排序以后是否保持原来的顺序。数据结构
三、比较排序和非比较排序
比较排序(comparison sort):
比较排序中,每一步经过比较元素大小来决定元素的位置。其复杂度由比较次数
和交换次数
来决定。比较排序比较好实现,可是时间复杂度没法突破O(nlogn)
。证实过程,能够参考这篇文章。函数
非比较排序(non-comparison sort):
非比较排序,如桶排序,不经过比较,后续将会讲解。这类算法能够突破O(nlogn)
。post
排序算法有不少种,每一种都各自有本身的优势缺点和不一样的应用场景,没有一种排序是绝对完美的。如何评价一个算法的优劣呢,咱们经过算法复杂度
来衡量。
算法复杂度(complexity),能够从时间复杂度
和空间复杂度
两个维度来考虑。
空间复杂度,是指算法所须要的额外的存储单元。目前的硬件条件,这一块一般能够不考虑了。算法优化,更可能是来优化算法的时间。
下面将介绍如何来估算时间复杂度。下面的介绍的方法,目前只够勉强说服我本身。若是以为不想了解这个理论,能够直接记住下面的结论。若是以为讲得不是那么容易懂,能够参考别的资料仔细研究。
若是一个列表的大小为n,则算法耗费的时间T(n)。可是因为机器、CPU等的不一样,同一个算法执行的时间可能都不同。因此一般不是按耗费的时间来计算,而是用某个算法实现的指令执行的次数
,来衡量时间复杂度。以下面这个程序:
for( i = 0; i < n; i++) // i = 0; 执行1次
// i < n; 执行n+1次
// i++ 执行n次
sum = sum + i; // 执行n次
// 总次数f(n) = 1 + n+1 + n +n = 3n+2
复制代码
经过上面计数操做数的方法,显得很麻烦。因此一般是经过一个函数来估算,确保它是算法操做数f(n)的上界。这种方法就是大O记法
。
对于单调函数 f(n) 和 g(n), n为正整数,若是存在常数c > 0, n0 > 0,且
则咱们称
以下图所示。
简单来讲,就是当n→∞时,f(n)的增加率不大于g(n),也就是说g(n)时f(n)的上界。 在这里,f(n)就是算法的指令操做数,而g(n)就是咱们估算的复杂度上界。 它还有两个特性。
因此,上面程序的时间复杂度是:
常数时间 O(1)
常数时间(constant time)
,算法的执行时间和列表大小无关。
线性时间 O(n)
线性时间(linear time)
, 算法执行时间和列表大小成正比。
对数时间 O(logn)
对数时间(logarithmic time)
, 稍微显得难理解一点。不过若是你了解对数,其实也很简单。例如二分查找,每一次查找都会去掉一半的元素,但最后一次元素个数就是1。假设数组大小为n, 要通过x轮查找,则
logn是简写,通常忽略底数。
二次项时间(quadratic time)
, 一般是两层循环的算法。对于一个算法的时间复杂度,根据以上理论,大致按下面的步骤来估算复杂度。 以这个程序为例:
sum = 0;
for( i = 0; i < n; i++)
for( j = i; j < n; j++)
sum++;
复制代码
1. 忽略简单语句
对于简单复杂语句,它执行次数是一个常数,复杂度为O(1)。若是还存在循环,O(1)对结果不影响。
2. 关注循环语句
对于循环语句,要认真分析其循环执行的次数。例子中,外层循环要执行 n 次,内层循环要
因此总次数T(n)为
3. 忽略常数项,保留高次项
对于一个多项式,当n→∞时,彻底由最高项次决定。因此
对于有的程序,复杂度仍是很很差计算。因此要多练习,写一个程序以后,本身主动去算一下它的复杂度,慢慢就熟练了。
对于排序算法,一个算法的执行性能,和输入的数据有很大的关系。对于某些特定的数据,某些算法的效率很高,但一般算法的性能又很低。因此一般存在:
一般仍是以平均时间复杂度,来衡量算法。例如冒泡排序,当数组元素有序时,最优时间复杂度为O(n)。当逆序是,为O(n2)。平均仍是O(n2)。算法复杂度的优劣,能够参考此图:
本章节主要介绍了一下排序算法的类型,以及若是经过大O记法来评价一个算法。对于如何计算算法的时间复杂度,不少人都感受很头疼。我给的建议是,按照上面的步骤多练习,多去主动算程序的时间复杂度。这样慢慢本身就会掌握技巧,而且提醒本身保证本身程序的执行效率。共勉!
[1] About the #sorting-algorithms series
[2] 凯耐基梅隆大学数据结构与算法-排序算法
[3] CMU algorithm complexity
[4] Big O cheat sheet
[5] You need to understand Big O notation, now