主定理（Master theorem）与Akra–Bazzi定理

1、主定理（Master theorem）算法

主定理是算法分析中的一个重要结论，它主要用于求解基于分治思想设计的递归算法的渐进复杂度。该结论最初由Jon Bentley, Dorothea Haken, 和James B. Saxe三位计算机科学家在1980年给出，其中Jon Bentley是计算机领域畅销书《编程珠玑》的做者，同时他还提出了K-D-Tree这个用于多维数据管理的数据结构。经典教材《算法导论》将该结论命名为主定理，并使其声名远播。编程

先来看简化版本的主定理：数据结构

考虑形如 $T(n)=aT(n/b)+\Theta(n^d)$ 的递归式，设计

若是，那么 $T(n)=\Theta(n^{\log_ba})$ ；
若是，那么 $T(n)=\Theta(n^d\log n)$ ；
若是，那么 $T(n)=\Theta(n^d)$ 。

注意在这个简化的版本中，加法右侧的部分必须是polynomial的。code

如何应用主定理呢？来看几道例题。递归

例1：rem

套用上面的公式，其中a=1，b=3/2，而且d=0，即。所以，可得 $T(n)=\Theta(\log n)$ 。数学

下面给出真正版本的主定理：ast

考虑形如的递归式，class

若是存在 $\epsilon>0$ ，使得 $f(n)=O(n^{\log_b a -\epsilon})$ ，那么 $T(n)=\Theta(n^{\log_ba})$ ；
若是 $f(n)=\Theta(n^{\log_b a})$ ，那么 $T(n)=\Theta(n^{\log_ba}\log n)$ ；
若是存在 $\epsilon>0$ ，使得 $f(n)=\Omega(n^{\log_ba+\epsilon})$ ，而且 $af(n/b)\leq cf(n)$ 成立，其中是一个常数，是一个足够大的数，那么 $T(n)=\Theta (f(n))$ 。

一样来看一道例题。

例2： $T(n)=3T(n/4)+n\log n$

相似地，其中a=3，b=4，而且 $f(n)=n\log n$ 。比较 $n^{\log_4 3}$ 和 $n\log n$ ，易见只要 $\log_43+\epsilon\leq 1$ ，就有 $n\log n=\Omega(n^{\log_43+\epsilon})$ 。属于第三种状况，所以 $T(n)=\Theta(n\log n)$ 。

2、Akra–Bazzi定理

尽管主定理十分强大，并且应用起来也很方便，但并不是全部的递归关系均可以用它来求得最终的渐进表示的复杂度。一个更加泛化的结论是由两位黎巴嫩数学家Mohamad Akra 和 Louay Bazzi（二人也都是MIT的校友）在1998年给出的后来以他们名字命名的定理——Akra-Bazzi定理。该定理的形式化表述以下：

考虑形如 $T(x)=g(x)+\sum ^k_{i=1}a_iT(b_ix+h_i(x)), for\ x\geq x_0$ 的递归式，

若是：

对于全部的，和是常数，其中，；
$|g(x)|\in O(x^c)$ ，其中是一个常数；
对于全部的， $|h_i(x)|\in O(\frac{x}{(\log x)^2})$ ；
是一个常数；

则有

$T(x)\in \Theta(x^p(1+\int_{1}^{x}\frac{g(u)}{u^{p+1}}du))$

其中，知足 $\sum_{i=1}^{k}a_ib_i^p=1$ 。

如何应用Akra-Bazzi定理呢？来看几道例题。

例3： $T(n)=\frac{7}{4}T(\frac{1}{2}n)+T(\frac{3}{4}n)+n^2, for\ n\geq3$

首先来找到知足条件的，显然当使得 $\frac{7}{4}(\frac{1}{2})^p+(\frac{3}{4})^p=1$ 成立的值为2。那么套用上述公式可得：

$T(x)\in \Theta(x^2(1+\int_{1}^{x}\frac{u^2}{u^3}du))=\Theta(x^2\log x)$

例4： $T(n)=\frac{1}{4}T(\frac{3}{4}n)+\frac{3}{4}T(\frac{1}{4}n)+1$ ，其中n是一个很大的数

显然，知足条件的p值等于0，因而有

$T(x)\in \Theta(x^0(1+\int_{1}^{x}\frac{1}{u}du))=\Theta(\log x)$

例5： $T(n)=T(\frac{2}{7}n)+T(\frac{3}{7}n)+T(\frac{6}{7}n)+n^2$ ，其中n是一个很大的数

能够算得，知足条件的p值等于2，因而有

$T(x)\in \Theta(x^2(1+\int_{1}^{x}\frac{u^2}{u^3}du))=\Theta(x^2\log x)$

注意，p值未必必定须要是一个整数，例如 $\log 3$ 也是彻底能够的。

【本文完】