算法导论学习 之 渐进符号

1、大O记号（表示上界）

            1.        f(n) = O(g(n))

                        意味着：存在常数 C>0，n 0 >0，使得任意 n≥n ₀ ，有 0 ≤ f(n) ≤ C·g(n) 成立。

                        如：2n ² = O(n ³ ) 。

            2.        ​能够将大O理解为一个函数集：
                        O(g(n)) = { f(n) | 存在常数 C>0，n₀>0，使得任意 n≥n₀，有 0 ≤ f(n) ≤ C·g(n) 成立 }

                        所以，等号并不对称，严格来讲是 “属于集合符号”：∈ 。

            3.        偏差界限：
                        例：f(n) = n³ + O(n²)，即 f(n) 主要是 n³，但也有一些低阶项 O(n² ) 。

                        即：存在函数 f(n)，有 h(n)∈O(n²) 使得 f(n) = n³ +  h(n)。

                        首先描述的是首项 n³，而后加上至多为 n²  的偏差项。

            4.        ​更微妙的等式：
                        例：n² + O(n) = O(n³ )，也是等号不对称。

                        等号不表示“等于”，而表示“是”，即全部等号左边的都是等号右边的。

                        即：存在  O( n ³ )，有任意  n ²  + O(n) 都是  O( n ³ )；反之则否则，因此不对称。

                        ​准肯定义：对于任意 f(n)∈ O(n)，存在 h(n)∈O(n³)，使得 n² + f(n) = h(n) 成立。

            ​5.        等式关系链：等式能够从左到右传递下去，便可理解为是经过“什么是什么”组成的链式表达式，
                                  第一个就是最后一个，或者说以最后一个为上界。但不能反过来从后往前传递。

2、大Ω符号（表示下界）
            ​1.          f(n) = Ω(g(n))
                       ​ Ω(g(n)) = { f(n) | 存在常数 C>0，n₀>0，使得任意 n≥n₀，有 0 ≤ C·g(n) ≤ f(n) 成立  }

            ​ 2.          例：√n = Ω(lgn)，即对于足够大的 n，√n 至少是 Ω(lgn) 的常数倍。
3、大Θ符号

            1.        Θ(n) = O(n) ∩ Ω(n)​

           2.        Θ(g(n)) = { f(n) | 存在常数 C₁>0，C₂>0，n₀>0，使得任意  n≥n ₀ ， 有 0 ≤  C ₁ ·g(n) ≤ f(n) ≤  C ₂ ·g(n)  }

         

4、小o符号和小ω符号

         1.     o(g(n)) = { f(n) | 任意常数 C>0，存在 n₀>0，使得任意 n≥n₀，有 0 ≤ f(n) < C·g(n) 成立 }

                 lim [ f(n) / g(n) ] = 0 as n->∞

         2.     ω(g(n)) = { f(n) | 任意常数 C>0，存在 n₀>0，使得任意 n≥n₀，有 0 ≤  C·g(n)  <  f(n)  成立  }

                 lim [ f(n) / g(n) ] = ∞ as n->∞

         3.     例：2n² = o(n³)，

                     证：存在 n₀>0，当 n>n₀，有 2n² < C·n³，即 n > 2/C

                              取 n = [n₀]，则 n₀ = 2/C 。

                               即存在 n₀ = 2/C ，当 n>n₀，有 2n² < C·n³ 成立，即 2n² = o(n³) 。

         4.     注：1/2n² = Θ(n²) ≠ o(n²)

                                                           ≠  ω (n²)

5、性质及类比：

        1.    传递性：

                f(n) = Ө(g(n)) 和 g(n) = Ө(h(n)) => f(n) = Ө(h(n))

                f(n) = O(g(n)) 和 g(n) = O(h(n)) => f(n) = O(h(n))

                f(n) = Ω(g(n)) 和 g(n) = Ω(h(n)) => f(n) = Ω(h(n))

                f(n) = o(g(n))  和 g(n) = o(h(n)) => f(n) = o(h(n))

                f(n) = ω(g(n)) 和 g(n) = ω(h(n)) => f(n) = ω(h(n))

        2.    自反性：

                f(n) = Ө(f(n))

                f(n) = O(f(n))

                f(n) = Ω(f(n))

        3.    转置对称性：

                f(n) = Ө(g(n)) 当且仅当 g(n) = Ө(f(n))

                f(n) = O(g(n)) 当且仅当 g(n) = Ω(f(n))

                f(n) = o(g(n)) 当且仅当 g(n) = ω(f(n))

           4.     类比：

                   能够类比：O    Ω    Θ    o    ω

                                        ≤    ≥    =    ＜   ＞

                   但类比并非等价于；同时小符号是大符号更为严格的记号，但却没有严格的小θ。

By Black Storm（使用为知笔记）