以前备考时无心间看到这篇文章【康托尔、哥德尔、图灵——永恒的金色对角线】,令我惊为天人。刘未鹏从一系列深奥的理论背后找到了一条线,用一个至为简单而又至为深入的数学方法将其串联起来,让咱们看到了最纯粹的数学之美!如今终于有时间可以静下心来从新看一遍,顺便写一篇读书笔记方便交流与理解。程序员
那么图灵的停机问题(The Halting Problem)、Y Combinator、著名的哥德尔不完备定理、罗素悖论,到底是如何由康托尔的天才手法串联起来的?不要急,同窗你先坐下,接下来咱们将细细道来。 算法
首先,咱们要从图灵著名的停机问题提及,一来它相对来讲是咱们要说的几个定理当中最简单的,二来它也最贴近程序员。编程
不存在这样一个程序(算法),它可以计算任何程序(算法)在给定输入上是否会结束(停机)。bash
证实以下:编程语言
假如咱们有一天真的作出了这个极度聪明的算法——神之算法(God_algo),你只要给它一段程序program
,再给它这段程序的输入input
,它就能告诉你这段程序在这个输入的状况下会不会结束(停机)。神之算法以下:ide
bool God_algo(char* program, char* input)
{
if(<program> halts on <input>)
return true;
return false;
}
复制代码
emmm......这里咱们假设 if 的判断语句里面是你天才思考的结晶,它可以像上帝同样洞察一切程序的宿命 - -! 函数式编程
而后,咱们能够从它导出一个新的算法:函数
bool Satan_algo(char* program)
{
if( God_algo(program, program) ){
while(1); // loop forever!
return false; // can never get here!
}
else
return true;
}
复制代码
正如它的名字所暗示的那样,这个撒旦算法即是一切邪恶的根源了!!!oop
为何这么说呢?咱们来看看将撒旦算法运用到它自身时会发生什么呢?ui
Satan_algo(Satan_algo);
复制代码
咱们来分析一下这行简单的调用:
显然,Satan_algo(Satan_algo)这个调用要么可以运行结束返回(停机),要么不能返回(loop forever)。
若是它可以结束,那么Santa_algo算法里面的那个if判断就会成立(由于God_algo(Santa_algo,Santa_algo)将会返回true),从而程序便进入那个包含一个无穷循环while(1);的if分支,因而这个Satan_algo(Satan_algo)调用便永远不会返回(结束)了。
而若是Satan_algo(Satan_algo)不能结束(停机)呢,则if判断就会失败,从而选择另外一个if分支并返回true,即Satan_algo(Satan_algo)又可以返回(停机)。
总之,咱们有:
Satan_algo(Satan_algo)可以停机 => 它不能停机
Satan_algo(Satan_algo)不能停机 => 它可以停机
因此它停也不是,不停也不是。左右矛盾。
因而,咱们的假设,即神之算法的存在性,便不成立了。
相信每一个程序员都可以看懂这个证实,可是图灵究竟是如何想出这一绝妙证实呢?毕竟,这个证实一点都不显然 - -!
接下来,咱们先跳过停机问题,继续来了解一下由跟图灵机理论等价的lambda算子发展出来的另外一个平行的语言世界——函数式编程语言的世界。
Y Combinator,这个由师从希尔伯特的著名逻辑学家Haskell B.Curry“发明”出来的组合算子仿佛有种神奇的魔力,它可以算出给定lambda表达式(函数)的不动点,从而使得递归成为可能。
为了理解Y Combinator,咱们必需要了解一点点lambda算子理论的基础知识。
先来看一下lambda表达式的基本语法(BNF):
<expr> ::= <identifier>
<expr> ::= lambda <identifier-list>. <expr>
<expr> ::= (<expr> <expr>)
复制代码
前两条语法用于生成lambda表达式(lambda函数),如:
lambda x y. x + y
复制代码
这是一个匿名的加法函数,它接受两个参数,返回两值相加的结果。固然,这里咱们为了方便起见赋予了lambda函数直观的计算意义,而实际上lambda calculus里面一切都只不过是文本替换,有点像C语言的宏。而且这里的“+”咱们假设已是一个具备原子语义的运算符[6],此外,为了方便咱们使用了中缀表达(按照lambda calculus系统的语法实际上应该写成“(+ x y)”才对——参考第三条语法)。
那么,函数定义出来了,怎么使用呢?最后一条规则就是用来调用一个lambda函数的:
((lambda x y. x + y) 2 3)
复制代码
以上这一行就是把刚才定义的加法函数运用到2和3上(这个调用语法形式跟命令式语言(imperative language)惯用的调用形式有点区别,后者是“f(x, y)”,而这里是“(f x y)”,不过好在顺序没变:) )。为了表达简洁一点,咱们能够给(lambda x y. x + y)起一个名字,像这样:
let Add = (lambda x y. x + y)
复制代码
这样咱们即可以使用Add来表示该lambda函数了:
(Add 2 3)
复制代码
不过仍是为了方便起见,后面调用的时候通常用“Add(2, 3)”,即咱们熟悉的形式。
有了语法规则以后,咱们即可以看一看这个语言系统的两条简单至极的公理了:
**Alpha转换公理:例如,“lambda x y. x + y”转换为“lambda a b. a + b”。**换句话说,函数的参数起什么名字没有关系,能够随意替换,只要函数体里面对参数的使用的地方也同时注意相应替换掉就是了。
**Beta转换公理:例如,“(lambda x y. x + y) 2 3”转换为“2 + 3”。**这个就更简单了,也就是说,当把一个lambda函数用到参数身上时,只需用实际的参数来替换掉其函数体中的相应变量便可。
就这些。是否是感受有点太简单了?但事实就是如此,lambda算子系统从根本上其实就这些东西,然而你却可以从这几个简单的规则中推演出神奇无比的Y combinator来。咱们这就开始!
敏锐的你可能会发现,就以上这两条公理,咱们的lambda语言中没法表示递归函数。
为何呢?假设咱们要计算阶乘,递归描述确定像这样:
f(n):
if n == 0 return 1
return n*f(n-1)
复制代码
固然,上面这个程序是假定n为正整数。这个程序显示了一个特色,f 在定义的过程当中用到了它自身。那么如何在lambda算子系统中表达这一函数呢?理所固然的想法以下:
lambda n. If_Else n==0 1 n*<self>(n-1)
复制代码
固然,上面的程序假定了 If_Else 是一个已经定义好的三元操做符(你能够想象C的? :
操做符,后面跟的三个参数分别是判断条件、成功后求值的表达式、失败后求值的表达式。那么很显然,这个定义里面有一个地方无法解决,那就是<self>那个地方咱们应该填入什么呢?很显然,熟悉C这类命令式语言的人都知道应该填入这个函数自己的名字,然而lambda算子系统里面的lambda表达式(或称函数)是没有名字的。
怎么办?难道就没有办法实现递归了?或者说,丘齐作出的这个lambda算子系统里面根本无法实现递归从而在计算能力上面有重大的缺陷?显然不是。立刻你就会看到Y combinator是如何把一个看上去非递归的lambda表达式像变魔术那样变成一个递归版本的。在成功以前咱们再失败一次,注意下面的尝试:
let F = lambda n. IF_Else n==0 1 n*F(n-1)
复制代码
看上去不错,是吗?惋惜仍是不行。由于let F只是起到一个语法糖的做用,在它所表明的lambda表达式尚未彻底定义出来以前你是不能够使用F这个名字的。更况且实际上丘齐当初的lambda算子系统里面也并无这个语法元素,这只是刚才为了简化代码而引入的语法糖。固然,了解这个let语句仍是有意义的,后面还会用到。
在上面几回失败的尝试以后,咱们是否是就束手无策了呢?**别忘了软件工程里面的一条黄金定律:“任何问题均可以经过增长一个间接层来解决”。**不妨把它沿用到咱们面临的递归问题上:没错,咱们的确没办法在一个lambda函数的定义里面直接(按名字)来调用其自身。可是,可不能够间接调用呢?
咱们回顾一下刚才不成功的定义:
lambda n. If_Else n==0 1 n*<self>(n-1)
复制代码
如今处不是缺乏“这个函数自身”嘛,既然不能直接填入“这个函数自身”,咱们能够增长一个参数,也就是说,把参数化:
lambda self n. If_Else n==0 1 n*self(n-1)
复制代码
上面这个lambda算子老是合法定义了吧。如今,咱们调用这个函数的时候,只要加传一个参数self,这个参数不是别人,正是这个函数自身。仍是为了简单起见,咱们用let语句来给上面这个函数起个别名:
let P = lambda self n. If_Else n==0 1 n*self(n-1)
复制代码
咱们这样调用,好比说咱们要计算3的阶乘:
P(P, 3)
复制代码
也就是说,把P本身做为P的第一个参数(注意,调用的时候P已经定义完毕了,因此咱们固然能够使用它的名字了)。这样一来,P里面的self处不就等因而P自己了吗?自身调用自身,递归!
惋惜这只是个美好的设想,还差一点点。咱们分析一下P(P, 3)这个调用。利用前面讲的Beta转换规则,这个函数调用展开其实就是:
IF_Else n==0 1 n*P(n-1)
复制代码
看出问题了吗?这里的P(n-1)虽然调用到了P,然而只给出了一个参数;而从P的定义来看,它是须要两个参数的(分别为self和n)!也就是说,为了让P(n-1)变成良好的调用,咱们得加一个参数才行,因此咱们得稍微修改一下P的定义:
let P = lambda self n. If_Else n==0 1 n*self(self, n-1)
复制代码
请注意,咱们在P的函数体内调用self的时候增长了一个参数。如今当咱们调用P(P, 3)的时候,展开就变成了:
IF_Else 3==0 1 3*P(P, 3-1)
复制代码
而P(P, 3-1)
是对P合法的递归调用。此次咱们真的成功了!
然而,看看咱们的P的定义,是否是很丑陋?n*self(self, n-1)
?什么玩意?为何要多出一个多余的self?咱们想起咱们一开始定义的那个失败的P,虽然行不通,但最初的努力每每是大脑最早想到的最直观的作法,咱们来回顾一下:
let P = lambda self n. If_Else n==0 1 n*self(n-1)
复制代码
这个P的函数体就很是清晰,没有冗余成分,虽然参数列表里面多出一个self,但咱们其实根本不用管它,看函数体就好了,self这个名字已经能够说明一切了对不对?但很惋惜这个函数不能用。咱们再来回想一下为何不能用呢?由于当你调用P(P, n)的时候,里面的self(n-1)会展开为P(n-1)而P是须要两个参数的。唉,要是这里的self是一个“真正”的,只须要一个参数的递归阶乘函数,那该多好啊。为何不呢?干脆咱们假设出一个“真正”的递归阶乘函数:
power(n):
if(n==0) return 1;
return n*power(n-1);
复制代码
可是,前面不是说过了,这个理想的版本没法在lambda算子系统中定义出来吗(因为lambda函数都是没名字的,没法本身内部调用本身)?不急,咱们并不须要它被定义出来,咱们只须要在头脑中“假设”它以“某种”方式被定义出来了,如今咱们把这个真正完美的power传给P,这样:
P(power, 3)
复制代码
注意它跟P(P, 3)的不一样,P(P, 3)咱们传递的是一个有缺陷的P为参数。而P(power, 3)咱们则是传递的一个真正的递归函数power。咱们试着展开P(power, 3):
IF_Else 3==0 1 3*power(3-1)
复制代码
发生了什么??power(3-1)将会计算出2的阶乘(别忘了,power是咱们设想的完美递归函数),因此这个式子将会忠实地计算出3的阶乘!
回想一下咱们是怎么完成这项任务的:咱们设想了一个以某种方式构造出来的完美的可以内部本身调用本身的递归阶乘函数power,咱们发现把这个power传给P的话,P(power, n)的展开式就是真正的递归计算n阶乘的代码了。
你可能要说:废话!都有了power了咱们还要费那事把它传给P来个P(power, n)干吗?直接power(n)不就得了?! 别急,之因此设想出这个power只是为了引入不动点的概念,而不动点的概念将会带领咱们发现Y combinator。
什么是不动点?一点都不神秘。让咱们考虑刚才的power与P之间的关系。一个是真正可递归的函数,一个呢,则是以一个额外的self参数来试图实现递归的伪递归函数,咱们已经看到了把power交给P为参数发生了什么,对吧?不,彷佛尚未,咱们只是看到了,“把power加上一个n一块儿交给P为参数”可以实现真正的递归。如今咱们想考虑power跟P之间的关系,直接把power交给P如何?
P(power)
复制代码
这是什么?这叫函数的部分求值(partial evaluation)。换句话说,第一个参数是给出来了,但第二个参数还悬在那里,等待给出。那么,光给一个参数获得的是什么呢?是“还剩一个参数待给的一个新的函数”。其实也很简单,只要按照Beta转换规则作就是了,把P的函数体里面的self出现处皆替换为power就能够了。咱们获得:
IF_Else n==0 1 n*power(n-1)
复制代码
固然,这个式子里面还有一个变量没有绑定,那就是n,因此这个式子还不能求值,你须要给它一个n才能具体求值,对吧。这么说,这可不就是一个以n为参数的函数么?实际上就是的。在lambda算子系统里面,若是给一个lambda函数的参数不足,则获得的就是一个新的lambda函数,这个新的lambda函数所接受的参数也就是你还没有给出的那些参数。换句话来讲,调用一个lambda函数能够分若干步来进行,每次只给出一部分参数,而只有等全部参数都给齐了,函数的求值结果才能出来,不然你获得的就是一个“中间函数”。
那么,这跟不动点定理有什么关系?关系大了,刚才不是说了,P(power)返回的是一个新的“中间函数”嘛?这个“中间函数”的函数体咱们刚才已经看到了,就是简单地展开P(power)而已,回顾一遍:
IF_Else n==0 1 n*power(n-1)
复制代码
咱们已经知道,这是个函数,参数n待定。所以咱们不妨给它加上一个“lambda n”的帽子,这样好看一点:
lambda n. IF_Else n==0 1 n*power(n-1)
复制代码
这是什么呢?这可不就是power自己的定义?(固然,若是咱们可以定义power的话)。不信咱们看看power若是可以定义出来像什么样子:
let power = lambda n. IF_Else n==0 1 n*power(n-1)
复制代码
如出一辙!也就是说,P(power)展开后跟power是同样的。即:
P(power) = power
复制代码
以上就是所谓的不动点。即对于函数P来讲power是这样一个“点”:当把P用到power身上的时候,获得的结果仍然仍是power,也就是说,power这个“点”在P的做用下是“不动”的。
惋惜的是,这一切竟然都是创建在一个不存在的power的基础上的,又有什么用呢?可别过早提“不存在”这个词,你以为同样东西不存在或许只是你没有找到使它存在的正确方法。咱们已经看到power是跟P有着密切联系的。密切到什么程度呢?对于伪递归的P,存在一个power,知足P(power)=power。注意,这里所说的“伪递归”的P,是指这样的形式:
let P = lambda self n. If_Else n==0 1 n*self(n-1) // 注意,不是self(self,n-1)
复制代码
通常化的描述就是,对任一伪递归F(回想一下伪递归的F如何获得——是咱们为了解决lambda函数不能引用自身的问题,因而给理想的f加一个self参数从而获得的),必存在一个理想f(F就是从这个理想f演变而来的),知足F(f) = f。
那么,如今的问题就归结为如何针对F找到它的f了。根据F和f之间的密切联系(F就比f多出一个self参数而已),咱们能够从F得出f吗?假设咱们能够(又是假设),也就是说假设咱们找到了一根魔棒,把它朝任意一个伪递归的F一挥,眼前一花,它就变成了真正的f了。这根魔棒若是存在的话,它具备什么性质?咱们假设这个神奇的函数叫作Y,把Y用到任何伪递归的函数F上就可以获得真正的f,也就是说:
Y(F) = f
复制代码
结合上面的F(f) = f,咱们获得:
Y(F) = f = F(f) = F(Y(F))
复制代码
也就是说,Y具备性质:
Y(F) = F(Y(F))
复制代码
性质却是找出来了,怎么构造出这个Y却又成了难题。一个办法就是使用抽象法,这是从工程学的思想的角度,也就是经过不断迭代、重构,最终找到问题的解。然而对于这里的Y combinator,接近问题解的过程却显得复杂而费力,甚至过程当中的有些点上的思惟跳跃有点如羚羊挂角无迹可寻。然而,在这整个Y combinator介绍完了以后咱们将会介绍著名的哥德尔不完备性定理,而后咱们就会发现,经过哥德尔不完备性定理证实中的一个核心构造式,只需一步天然的推导就能得出咱们的Y combinator。
让咱们先来看一看Y combinator的费力而复杂的工程学构造法:
咱们再次回顾一下那个伪递归的求阶乘函数:
let P = lambda self n. If_Else n==0 1 n*self(n-1)
复制代码
咱们的目标是找出P的不动点power,根据不动点的性质,只要把power传给P,即P(power),便可以获得真正的递归函数了。
如今,关键的地方到了,因为:
power = P(power) // 不动点原理
复制代码
这就意味着,power做为一个函数(lambda calculus里面一切都是函数),它是本身调用了本身的。那么,咱们如何实现这样一个可以本身调用本身的power呢?回顾咱们当初成功的一次尝试,要实现递归,咱们是经过增长一个间接层来进行的:
let power_gen = lambda self. P(self(self))
复制代码
还记得self(self)这个形式吗?咱们在成功实现出求阶乘递归函数的时候不就是这么作的?那么对于如今这个power_gen,怎么递归调用?
power_gen(power_gen)
复制代码
不明白的话能够回顾一下前面咱们调用P(P, n)的地方。这里power_gen(power_gen)展开后获得的是什么呢?咱们根据刚才power_gen的定义展开看一看,原来是:
P(power_gen(power_gen))
复制代码
看到了吗?也就是说:
power_gen(power_gen) => P(power_gen(power_gen))
复制代码
如今,咱们把power_gen(power_gen)当成总体看,不妨令为power,就看得更清楚了:
power => P(power)
复制代码
这不正是咱们要的答案么?
OK,咱们总结一下:对于给定的P,只要构造出一个相应的power_gen以下:
let power_gen = lambda self. P(self(self))
复制代码
咱们就会发现,power_gen(power_gen)这个调用展开后正是P(power_gen(power_gen))。也就是说,咱们的power_gen(power_gen)就是咱们苦苦寻找的不动点了!
如今咱们终于能够铸造咱们的Y Combinator了,Y Combinator只要生成一个形如power_gen的lambda函数而后把它应用到自身,就大功告成:
let Y = lambda F.
let f_gen = lambda self. F(self(self))
return f_gen(f_gen)
复制代码
稍微解释一下,Y是一个lambda函数,它接受一个伪递归F,在内部生成一个f_gen(还记得咱们刚才看到的power_gen吧),而后把f_gen应用到它自身(记得power_gen(power_gen)吧),获得的这个f_gen(f_gen)也就是F的不动点了(由于f_gen(f_gen) = F(f_gen(f_gen))),而根据不动点的性质,F的不动点也就是那个对应于F的真正的递归函数!
若是你还以为不相信,咱们稍微展开一下看看,仍是拿阶乘函数说事,首先咱们定义阶乘函数的伪递归版本:
let Pwr = lambda self n. If_Else n==0 1 n*self(n-1)
复制代码
让咱们把这个Pwr交给Y,看会发生什么(根据刚才Y的定义展开吧):
Y(Pwr) =>
let f_gen = lambda self. Pwr(self(self))
return f_gen(f_gen)
复制代码
Y(Pwr)的求值结果就是里面返回的那个f_gen(f_gen),咱们再根据f_gen的定义展开f_gen(f_gen),获得:
Pwr(f_gen(f_gen))
复制代码
也就是说:
Y(Pwr) => f_gen(f_gen) => Pwr(f_gen(f_gen))
复制代码
咱们来看看获得的这个Pwr(f_gen(f_gen))究竟是不是真有递归的魔力。咱们展开它(注意,由于Pwr须要两个参数,而咱们这里只给出了一个,因此Pwr(f_gen(f_gen))获得的是一个单参(即n)的函数):
Pwr(f_gen(f_gen)) => If_Else n==0 1 n*f_gen(f_gen) (n-1)
复制代码
而里面的那个f_gen(f_gen),根据f_gen的定义,又会展开为Pwr(f_gen(f_gen)),因此:
Pwr(f_gen(f_gen)) => If_Else n==0 1 n* Pwr(f_gen(f_gen)) (n-1)
复制代码
由于Pwr(f_gen(f_gen))是一个接受n为参数的函数,因此不妨把它令成f(f的参数是n),这样上面的式子就是:
f => If_Else n==0 1 n*f(n-1)
复制代码
完美的阶乘函数!
漫长的Y Combinator征途仍然并不是本文的最终目的,关键是立刻你会看到Y combinator能够由哥德尔不完备性定理证实的一个核心构造式一眼瞧出来!
让咱们的思绪回到1931年,那个数学界风起云涌的年代,一个名不经传的20出头的学生,在他的博士论文中证实了一个惊天动地的结论。
在那个年代,希尔伯特的数学天才就像太阳的光芒通常夺目,在关于数学严格化的大纷争中希尔伯特带领的形式主义派系技压群雄,获得许多当时有名望的数学家的支持。希尔伯特但愿借助于形式化的手段,抽掉数学证实中的意义,把数学证实抽象成一堆无心义的符号转换,就连咱们人类赖以自豪的逻辑推导,也不过只是一堆堆符号转换而已(想起lambda calculus系统了吧:))。这样一来,一个咱们平常所谓的,带有直观意义和解释的数学系统就变成了一个纯粹由无心义符号表达的、公理加上推导规则所构成的形式系统,而数学证实呢,只不过是在这个系统内玩的一个文字游戏。使人惊讶的是,这样一种作法,真的是可行的!数学的意义,彷佛居然真的能够被抽掉!另外一方面,一个形式系统具备很是好的性质,平时人们证实一个定理所动用的推导,变成了纯粹机械的符号变换。**希尔伯特但愿可以证实,在任一个无矛盾的形式系统中所能表达的全部陈述都要么可以证实要么可以证伪。**这看起来是个很是直观的结论,由于一个结论要么是真要么是假,而它在它所处的领域/系统中固然应该可以证实或证伪了(只要咱们可以揭示出该系统中足够多的真理)。
然而,哥德尔的证实无情的击碎了这一企图,哥德尔的证实揭示出,任何足够强到蕴含了皮亚诺算术系统(PA)的一致(即无矛盾)的系统都是不完备的,所谓不完备也就是说在系统内存在一个为真但没法在系统内推导出的命题。这在当时的数学界揭起了轩然大波,其证实不只具备数学意义,并且蕴含了深入的哲学意义。从那时起这一不完备性定理就被引伸到天然科学乃至人文科学的各个角落…至今尚未任何一个数学定理竟然可以产生这么普遍而深远的影响。
哥德尔的证实很是的长,达到了200多页纸,但其中很大的成分是用在了一些辅助性的工做上面,好比占据超过1/3纸张的是关于一个形式系统如何映射到天然数,也就是说,如何把一个形式系统中的全部公式都表示为天然数,并能够从一天然数反过来得出相应的公式。这其实就是编码,在咱们如今看来是很显然的,由于一个程序就能够被编码成二进制数,反过来也能够解码。可是在当时这是一个全新的思想,也是最关键的辅助性工做之一,另外一方面,这正是**“程序即数据”**的最初想法。
如今咱们知道,要证实哥德尔的不完备性定理,只需在假定的形式系统T内表达出一个为真但没法在T内推导出(证实)的命题。因而哥德尔构造了这样一个命题,用天然语言表达就是:命题P说的是“P不可在系统T内证实”(这里的系统T固然就是咱们的命题P所处的形式系统了),也就是说“我不能够被证实”,跟著名的说谎者悖论很是类似,只是把“说谎”改为了“不能够被证实”。咱们注意到,一旦这个命题可以在T内表达出来,咱们就能够得出“P为真但没法在T内推导出来”的结论,从而证实T的不完备性。为何呢?咱们假设T能够证实出P,而由于P说的就是P不可在系统T内证实,因而咱们又获得T没法证实出P,矛盾产生,说明咱们的假设“T能够证实P”是错误的,根据排中律,咱们获得T不能够证实P,而因为P说的正是“T不可证实P”,因此P就成了一个正确的命题,同时没法由T内证实!
**若是你足够敏锐,你会发现上面这番推理自己不就是证实吗?其证实的结果不就是P是正确的?然而实际上这番证实是位于T系统以外的,它用到了一个关于T系统的假设“T是一致(无矛盾)的”,这个假设并不是T系统里面的内容,因此咱们刚才实际上是在T系统以外推导出了P是正确的,这跟P不能在T以内推导出来并不矛盾。**因此别担忧,一切都正常。
那么,剩下来最关键的问题就是如何用形式语言在T内表达出这个P,上面的理论虽然漂亮,但如果P根本无法在T内表达出来,咱们又如何能证实“T内存在这个为真但没法被证实的P”呢?那一切还不是白搭?
因而,就有了哥德尔证实里面最核心的构造,哥德尔构造了这样一个公式:
N(n) is unprovable in T
复制代码
这个公式由两部分构成,n是这个公式的自由变量,它是一个天然数,一旦给定,那么这个公式就变成一个明确的命题。而N则是从n解码出的货真价实的(即咱们常见的符号形式的)公式(记得哥德尔的证实第一部分就是把公式编码吗?)。”is unprovable in T”则是一个谓词,这里咱们没有用形式语言而是用天然语言表达出来的,但哥德尔证实了它是能够用形式语言表达出来的,大体思路就是:一个形式系统中的符号数目是有限的,它们构成这个形式系统的符号表。因而,咱们能够依次枚举出全部长度为1的串,长度为2的串,长度为3的串… 此外根据形式系统给出的语法规则,咱们能够检查每一个串是不是良构的公式(well formed formula,简称wff,其实也就是说,是否符合语法规则,前面咱们在介绍lambda calculus的时候看到了,一个形式系统是须要语法规则的,好比逻辑语言形式化以后咱们就会看到P->Q是一个wff,而->PQ则不是),于是咱们就能够枚举出全部的wff来。最关键的是,咱们观察到形式系统中的证实也不过就是由一个个的wff构成的序列(想一想推导的过程,不就是一个公式接一个公式嘛)。而wff构成的序列自己一样也是由符号表内的符号构成的串。因此咱们只需枚举全部的串,对每个串检查它是不是一个由wff构成的序列(证实),若是是,则记录下这个wff序列(证实)的最后一个wff,也就是它的结论。这样咱们便枚举出了全部的可由T推导出的定理。而后为了表达出”X is unprovable in T”,本质上咱们只需说“不存在这样一个天然数S,它所解码出来的wff序列以X为终结”!这也就是说,咱们表达出了“is unprovable in T”这个谓词。
咱们用UnPr(X)来表达“X is unprovable in T”,因而哥德尔的公式变成了:
UnPr( N(n) )
复制代码
如今,到了最关键的部分,首先咱们把这个公式简记为G(n)——别忘了G内有一个自由变量n,因此G如今还不是一个命题,而只是一个公式,因此谈不上真假:
G(n): UnPr( N(n) )
复制代码
又因为G也是个wff,因此它也有本身的编码g,固然g是一个天然数,如今咱们把g做为G的参数,也就是说,把G里面的自由变量n替换为g,咱们因而获得一个真正的命题:
G(g): UnPr( G(g) )
复制代码
用天然语言来讲,这个命题G(g)说的就是“我是不可在T内证实的”。看,咱们在形式系统T内表达出了“我是不可在T内证实的”这个命题。而咱们一开始已经讲过了如何用这个命题来推断出G(g)为真但没法在T内证实,因而这就证实了哥德尔的不完备性定理。
哥德尔的不完备性定理被称为20世纪数学最重大的发现(不知道有没有“之一”:) )如今咱们知道为真但没法在系统内证实的命题不只仅是这个诡异的“哥德尔命题”,还有不少真正有意义的明确命题,其中最著名的就是连续统假设,此外哥德巴赫猜测也有多是个无法在数论系统中证实的真命题。
**哥德尔的不完备性定理证实了数学是一个未完结的学科,永远有须要咱们以人的头脑从系统以外去用咱们独有的直觉发现的东西。**罗杰·彭罗斯在《The Emperor’s New Mind》中用它来证实人工智能的不可实现。固然,这个结论是很受质疑的。但哥德尔的不完备性定理的确还有不少不少的有趣推论,数学的和哲学上的。哥德尔的不完备性定理最深入的地方就是它揭示了自指(或称自引用,递归调用自身等等)结构的广泛存在性,咱们再来看一看哥德尔命题的绝妙构造:
G(n): UnPr( N(n) )
复制代码
咱们注意到,这里的UnPr实际上是一个形式化的谓词,它不必定要说“X在T内可证实”,咱们能够把它泛化为一个通常化的谓词,P:
G(n): P( N(n) )
复制代码
也就是说,对于任意一个单参的谓词P,都存在上面这个哥德尔公式。而后咱们算出这个哥德尔公式的天然数编码g,而后把它扔给G,就获得:
G(g): P( G(g) )
复制代码
是否是很熟悉这个结构?咱们的Y Combinator的构造不就是这样一个形式?**咱们把G和P都当作一元函数,G(g)可不正是P这个函数的不动点么!**因而,咱们从哥德尔的证实里面直接看到了Y Combinator!
哥德尔的证实虽然巧妙至极,然而其背后的思惟过程仍然飘逸而不可捉摸,至少我当时看到G(n)的时候,“乃大惊”“不知所从出”,他怎么想到的?难道是某一个瞬间“灵光一现”?通常我是不信这一说的,已经有愈来愈多的科学研究代表一瞬间的“灵感”每每是潜意识乃至表层意识长期思考的结果。哥德尔天才的证实也不例外,咱们立刻就会看到,在这个神秘的构造背后,其实隐藏着某种更深的东西,这就是康托尔在19世纪80年代研究无穷集合和超限数时引入的对角线方法。这个方法仿佛有种神奇的力量,可以揭示出某种自指的结构来,而同时,这又是一个极度简单的手法,经过它咱们可以获得数学里面一些很是奇妙的性质。不管是哥德尔的不完备性定理仍是再后来丘齐创建的lambda calculus,抑或咱们很是熟悉的图灵机理论里的停机问题,其实都只是这个手法简单推演的结果!
康托尔在无穷集合和超限数方面的工做主要集中在两篇突破性的论文上。不过这里就不过多谈论数学的细节了,只说康托尔引入对角线方法的动机和什么是对角线方法。
康托尔在研究无穷集合的时候,富有洞察性地看到了对于无穷集合的大小问题,咱们不能再使用直观的“所含元素的个数”来描述,因而他创造性地将一一对应引入进来,两个无穷集合“大小”同样当且仅当它们的元素之间可以构成一一对应。这是一个很是直观的概念,一一对应嘛,固然个数相等了,是否是呢?然而这同时就是它不直观的地方了。对于无穷集合,咱们平常的所谓“个数”的概念无论用了,由于无穷集合里面的元素个数本就是无穷多个。不信咱们来看一个小小的例子。咱们说天然数集合可以跟偶数集合构成一一对应,从而天然数集合跟偶数集合里面元素“个数”是同样多的。怎么可能?偶数集合是天然数集合的真子集,全部偶数都是天然数,但天然数里面还包含奇数呢,提及来应该是二倍的关系不是?不是!咱们只要这样来构造一一对应:
1 2 3 4 …
2 4 6 8 …
复制代码
用函数来描述就是 f(n) = 2n。检验一下是否是一一对应的?难以想象对吗?还有更难以想象的,**天然数集是跟有理数集一一对应的!**对应函数的构造就留给你解决吧,提示,按以下方式来挨个数全部的有理数:
1/1 1/2 2/1 1/3 2/2 3/1 1/4 2/3 3/2 4/1 …
复制代码
用这种一一对应的手法还能够获得不少惊人的结论,如一条直线上全部的点跟一个平面上全部的点构成一一对应(也就是说复数集合跟实数集合构成一一对应)。以至于连康托尔本身都不敢相信本身的眼睛了,这也就是为何他在给戴得金的信中会说“我看到了它,却不敢相信它”的缘由。
然而,除了一一对应以外,还有没有不能构成一一对应的两个无穷集合呢?有。实数集合就比天然数集合要“大”,它们之间实际上没法构成一一对应。这就是康托尔的对角线方法要解决的问题。
实数集和天然数集没法构成一一对应?!
咱们只需将实数的小数位展开,而且咱们假设实数集可以与天然数集一一对应,也就是说假设实数集可列,因此咱们把它们与天然数一一对应列出,以下:
1 a10.a11a12a13…
2 a20.a21a22a23…
3 a30.a31a32a33…
4 …
5 …
(注:aij里面的ij是下标)
复制代码
如今,咱们构造一个新的实数,它的第i位小数不等于aii。也就是说,它跟上面列出的每个实数都至少有一个对应的小数位不等,也就是说它不等于咱们上面列出的全部实数,这跟咱们上面假设已经列出了全部实数的说法相矛盾。因此实数集只能是不可列的,即不可与天然数集一一对应!这是对角线方法的最简单应用。
**对角线方法有不少很是奇妙的结论,其中之一就是文章一开始提到的停机问题。**我想绝大多数人刚接触停机问题的时候都有一个问题,图灵怎么可以想到这么诡异的证实,怎么能构造出那个诡异的“说停机又不停机,说不停机又停机”的悖论机器。立刻咱们就会看到,这其实只是对角线方法的一个直接结论。
仍是从反证开始,咱们假设存在这样一个图灵机,他可以判断任何程序在任何输入上是否停机。因为全部图灵机构成的集合是一个可列集(也就是说,咱们能够逐一列出全部的图灵机),因此咱们能够很天然地列出下表,它表示每一个图灵机分别在每个可能的输入(1,2,3,…)下的输出,N表示没法停机,其他数值则表示停机后的输出:
1 2 3 4 …
M1 N 1 N N …
M2 2 0 N 0 …
M3 0 1 2 0 …
M4 N 0 5 N …
…
复制代码
M1,M2,M3 … 是逐一列出的图灵机,而且,注意,因为程序即数据,每一个图灵机都有惟一编码,因此咱们规定在枚举图灵机的时候Mi其实就表明编码为i的图灵机,固然这里不少图灵机将会是根本没用的玩意,但这没关系。此外,最上面的一行1 2 3 4 … 是输入数据,如,矩阵的第一行表明M1分别在1,2,3,…上面的输出,不停机的话就是N。
咱们刚才假设存在这样一个图灵机H,它可以判断任何程序在任何输入上可否停机,换句话说,H(i,j)(i是Mi的编码)可以给出“Mi(j)”是N(不停)呢仍是给出一个具体的结果(停)。
**咱们如今来运用康托尔的对角线方法,咱们构造一个新的图灵机P,P在1上的输出行为跟M1(1)“不同”,在2上的输出行为跟M2(2)“不同”,…总之P在输入i上的输出跟Mi(i)不同。**只需利用一下咱们万能的H,这个图灵机P就不难构造出来,以下:
P(i):
if( H(i, i) == 1 ) then // Mi(i) halts
return 1 + Mi(i)
else // if H(i, i) == 0 (Mi(i) doesn’t halt)
return 0
复制代码
也就是说,若是Mi(i)停机,那么P(i)的输出就是Mi(i)+1,若是Mi(i)不停机的话,P(i)就停机且输出0。这就保证了P(i)的输出行为跟Mi(i)反正不同。如今,咱们注意到P自己是一个图灵机,而咱们上面已经列出了全部的图灵机,因此必然存在一个k,使得Mk = P。而两个图灵机相等当且仅当它们对于全部的输入都相等,也就是说对于任取的n,有Mk(n) = P(n),如今令n=k,获得Mk(k)=P(k),根据上面给出的P的定义,这实际上就是:
Mk(k) = P(k) =
1+Mk(k) if Mk(k) halts
0 if Mk(k) doesn’t halt
复制代码
看到这个式子里蕴含的矛盾了吗?**若是Mk(k)停机,那么Mk(k)=1+Mk(k);若是Mk(k)不停机,则Mk(k)=0(给出结果0即意味着Mk(k)停机);无论哪一种状况都是矛盾。**因而咱们得出,不存在那样的H。
**这个对角线方法实际上说明了,不管多聪明的H,总存在一个图灵机的停机行为是它没法判断的。这跟哥德尔定理“不管多‘完备’的形式化公理系统,都存在一个‘哥德尔命题’是没法在系统内推导出来的”从本质上实际上是如出一辙的。**只不过咱们通常把图灵的停机问题称为“可断定问题”,而把数学的称为“可证实问题”。
等等!若是咱们把那个没法断定是否停机的图灵机做为算法的特例归入到咱们的H当中呢?咱们把获得的新的断定算法记为H1。然而,惋惜的是,在H1下,咱们又能够相应地以一样的手法从H1构造出一个没法被它(H1)断定的图灵机来。你再加,我再构造,不管你加多少个特例进去,我均可以由一样的方式构造出来一个你没法够到的图灵机,以彼之矛,攻彼之盾。其实这也是哥德尔定理最深入的结论之一,哥德尔定理其实就说明了不管你给出多少个公理,即不管你创建多么完备的公理体系,这个系统里面都有由你的那些公理出发所推导不到的地方,这些黑暗的角落,就是人类直觉之光才能照射到的地方!
本节咱们从对角线方法证实了图灵的停机问题,咱们看到,对角线方法可以揭示出某种自指结构,从而构造出一个“悖论图灵机”。实际上,对角线方法是一种有深远影响的方法,哥德尔的证实其实也是这个方法的一则应用。证实与上面的停机问题证实一模一样,只不过把Mi换成了一个形式系统内的公式fi。
学过逻辑的人大约确定是知道著名的罗素悖论的,罗素悖论用数学的形式来描述就是:
R = {X:X不属于X};
复制代码
这个悖论最初是从康托尔的无穷集合论里面引伸出来的。当初康托尔在思考无穷集合的时候发现能够称“一切集合的集合”,这样一个集合因为它自己也是一个集合,因此它就属于它自身。也就是说,咱们如今能够称世界上存在一类属于本身的集合,除此以外固然就是不属于本身的集合了。而咱们把全部不属于本身的集合收集起来作成一个集合R,这就是著名的罗素悖论了。
咱们来看R是否属于R,若是R属于R,根据R的定义,R就不该该属于R。而若是R不属于R,则再次根据R的定义,R就应该属于R。
这个悖论促使了集合论的公理化。后来策梅罗公理化的集合论里面就不容许X属于X(不过惋惜的是,尽管如此仍是无法证实这样的集合论不可能产生出新的悖论。并且永远无法证实——这就是哥德尔第二不完备性定理的结论——一个包含了PA的形式化公理系统永远没法在内部证实其自身的一致(无矛盾)性。从而希尔伯特想从元数学推出全部数学系统的一致性的企图也就失败了,由于元数学的一致性又得由元元数学来证实,后者的一致性又得由元元元数学来证实…)。
这里咱们只关心罗素是如何想出这个绝妙的悖论的。仍是对角线方法!咱们罗列出全部的集合,S1,S2,S3 …
S1 S2 S3 …
S1 0 1 1 …
S2 1 1 0 …
S3 0 0 0 …
… …
复制代码
右侧纵向列出全部集合,顶行横向列出全部集合。0/1矩阵的(i,j)处的元素表示Si是否包含Sj,记为Si(j)。如今咱们只需构造一个新的0/1序列L,它的第i位与矩阵的(i,i)处的值偏偏相反:L(i) = 1-Si(i)。咱们看到,这个新的序列其实对应了一个集合,不妨也记为L,L(i)表示L是否包含Si。根据L的定义,若是矩阵的(i,i)处值为0(也就是说,若是Si不包含Si),那么L这个集合就包含Si,不然就不包含。咱们注意到这个新的集合L确定等于某个Sk(由于咱们已经列出了全部的集合),L = Sk。既然L与Sk是同一集合,那么它们确定包含一样的元素,从而对于任意n,有L(n) = Sk(n)。因而经过令n=k,获得L(k) = Sk(k),而根据L的定义,L(k) = 1- Sk(k)。这就有Sk(k) = 1-Sk(k),矛盾。
经过抽象简化以上过程,咱们看到,咱们构造的L实际上是“包含了全部不包含它自身的集合的集合”,用数学的描述正是罗素悖论!
敏锐的你可能会注意到全部集合的数目是不可数的从而根本不能S1,S2…的一一列举出来。没错,但经过假设它们能够列举出来,咱们发现了一个与可列性无关的悖论。因此这里的对角线方法其实能够说是一种启发式方法。
希尔伯特是在1900年巴黎数学家大会上提出著名的希尔伯特第十问题的,简言之就是是否存在一个算法,可以计算任意丢番图方程是否有整根。要解决这个问题,就得先严格定义“算法”这一律念。为此图灵和丘齐分别提出了图灵机和lambda calculus这两个概念,它们从不一样的角度抽象出了“有效(机械)计算”的概念,著名的图灵——丘齐命题就是说全部能够有效计算出来的问题均可以由图灵机计算出来。实际上咱们已经看到,丘齐的lambda calculus其实就是数学推理系统的一个形式化。而图灵机则是把这个数学概念物理化了。而也正由于图灵机的概念隐含了实际的物理实现,因此冯·诺依曼才据此提出了奠基现代计算机体系结构的冯·诺依曼体系结构,其遵循的,正是图灵机的概念。而“程序即数据”的理念,这个发端于数学家哥德尔的不完备性定理的证实之中的理念,则早就在黑暗中预示了可编程机器的必然问世。
哥德尔的不完备性定理震撼了20世纪数学界的天空,其数学意义颠覆了希尔伯特的形式化数学的宏伟计划,其哲学意义直到21世纪的今天仍然不断被延伸到各个天然学科,深入影响着人们的思惟。图灵为了解决希尔伯特著名的第十问题而提出有效计算模型,进而做出了可计算理论和现代计算机的奠定性工做,著名的停机问题给出了机械计算模型的能力极限,其深入的意义和漂亮的证实使它成为可计算理论中的标志性定理之一。丘齐,跟图灵同时代的天才,则从另外一个抽象角度提出了lambda算子的思想,与图灵机抽象的倾向于硬件性不一样,丘齐的lambda算子理论是从数学的角度进行抽象,不关心运算的机械过程而只关心运算的抽象性质,只用最简洁的几条公理便创建起了与图灵机彻底等价的计算模型,其体现出来的数学抽象美开出了函数式编程语言这朵奇葩。而诞生于函数式编程语言的神奇的Y combinator至今仍然让人们陷入深沉的震撼和反思当中… 然而,这一切的一切,看似不很相关却又有点相关,认真思考其关系却又有点一头雾水的背后,其实隐隐藏着一条线,这条线把它们从本质上串到了一块儿。这条线的尽头,不是别人,正是只手拨开被不严密性问题困扰的19世纪数学界阴沉天空的天才数学家康托尔,康托尔创造性地将一一对应和对角线方法运用到无穷集合理论的创建当中,这个被希尔伯特称为“谁也没法将咱们从康托尔为咱们创造的乐园中驱逐出去”、被罗素称为“19世纪最伟大的智者之一”的人,他在集合论方面的工做终于驱散了不严密性问题带来的阴霾,仿佛一道金色的阳光刺破乌云,19世纪的数学终于看到了真正严格化的曙光,数学终于得以站在了史无前例的坚固的基础之上;集合论至今还是数学里最基础和最重要的理论之一。而康托尔当初在研究无穷集合时最具天才的方法之一——对角线方法——则带来了极其深远的影响,其纯粹而直指事物本质的思想如洪钟大吕般响彻数学和哲学的每个角落。
啊!数学多么美妙啊!