关于数学学习 源地址:http://bbs.pinggu.org/thread-589533-1-1.html 最近一直有师弟师妹和朋友问我数学和研究的关系,研一要去学什么数学课。毕竟在清华,衡量一个研究生最重要的指标之一就是paper,而没有数学,是确定上不了世界顶级的期刊和会议的,这在计算机学界尤为重要!你会发现,不论哪一个领域有价值的东西,都必定离不开数学!在这样一个信息时代,当google已经让世界没有秘密的时候,一种卓越的数学思惟,绝对能够成为你的核心竞争力. 无奈本人实在见地有限,且生活慵懒,一直没能整理出一些有价值的东西,今日拜读了lin dahua的空间,忽然发现大牛已经作了此工做,便zz至此与你们分享。红笔标注之处,是本人的一些感觉,也算站在巨人肩膀上作一些肤浅之论吧。最后补充一句:对于大部分不作纯数学理论的人来讲(99.99999%的人都属于这一类),学一门数学时必定要创建和实际物理世界的联系。这样掌握的数学知识才有价值,也最深入! 前面几篇谈了一些对数学的粗浅见解。其实,若是对某门数学有兴趣,最好的方法就是走进那个世界去学习和体验。 这里说说几本我看事后以为不错的数学教科书。 1. 线性代数 (Linear Algebra): 我想国内的大学生都会学过这门课程,可是,未必每一位老师都能贯彻它的精要。这门学科对于Learning是必备的基础,对它的透彻掌握是必不可少的。我在科大一年级的时候就学习了这门课,后来到了香港后,又从新把线性代数读了一遍,所读的是 Introduction to Linear Algebra (3rd Ed.) by Gilbert Strang. 这本书是MIT的线性代数课使用的教材,也是被不少其它大学选用的经典教材。它的难度适中,讲解清晰,重要的是对许多核心的概念讨论得比较透彻。我我的以为,学习线性代数,最重要的不是去熟练矩阵运算和解方程的方法——这些在实际工做中MATLAB能够代劳,关键的是要深刻理解几个基础而又重要的概念:子空间(Subspace),正交(Orthogonality),特征值和特征向量(Eigenvalues and eigenvectors),和线性变换(Linear transform)。(若是你能理解傅立叶变化究竟作了一件什么事情,你才能说你知道了子空间!学线性代数必定要理解MATLAB能为你作的事情以外其余的东西,这才是精髓。而很遗憾,不少高校的线性代数考试只测试学生的计算能力。有几个数学老师能告诉学生:咱们为何要计算特征值?)从个人角度看来,一本线代教科书的质量,就在于它可否给这些根本概念以足够的重视,可否把它们的联系讲清楚。Strang的这本书在这方面是作得很好的。 并且,这本书有个得天独厚的优点。书的做者长期在MIT讲授线性代数课(18.06),课程的video在MIT的Open courseware网站上有提供。有时间的朋友能够一边看着名师授课的录像,一边对照课本学习或者复习。 http://ocw.mit.edu/OcwWeb/Mathematics/18-06Spring-2005/CourseHome/index.htm 2. 几率和统计 (Probability and Statistics): (功利一点的讲,统计是最实用的一门学科,若是你不去研究,不去作高端的金融投资分析,那么你能够不去学泛函,不去学线性代数,不去了解拓扑,但你必定离不开统计!时间序列分析也很重要,甚至比统计还来得实用,可国内却鲜有高校开设这门课程。。。) 几率论和统计的入门教科书不少,我目前也没有特别的推荐。我在这里想介绍的是一本关于多元统计的基础教科书: Applied Multivariate Statistical Analysis (5th Ed.) by Richard A. Johnson and Dean W. Wichern 这本书是我在刚接触向量统计的时候用于学习的,我在香港时作研究的基础就是今后打下了。实验室的一些同窗也借用这本书学习向量统计。这本书没有特别追求数学上的深度,而是以通俗易懂的方式讲述主要的基本概念,读起来很舒服,内容也很实用。对于Linear regression, factor analysis, principal component analysis (PCA), and canonical component analysis (CCA)这些Learning中的基本方法也展开了初步的论述。 以后就能够进一步深刻学习贝叶斯统计和Graphical models。(To my great acknowledgement, it is just for research.)一本理想的书是 Introduction to Graphical Models (draft version). by M. Jordan and C. Bishop. 我不知道这本书是否是已经出版了(不要和Learning in Graphical Models混淆,那是个论文集,不适合初学)。这本书从基本的贝叶斯统计模型出发一直深刻到复杂的统计网络的估计和推断,深刻浅出,statistical learning的许多重要方面都在此书有清楚论述和详细讲解。MIT内部能够access,至于外面,好像也是有电子版的。 3. 分析 (Analysis): (这才是真正数学家应该作的事情,无奈本人智力水平有限,没法于此领域有多少见地) 我想你们基本都在大学就学过微积分或者数学分析,深度和广度则随各个学校而异了。这个领域是不少学科的基础,值得推荐的教科书莫过于 Principles of Mathematical Analysis, by Walter Rudin 有点老,可是绝对经典,深刻透彻。缺点就是比较艰深——这是Rudin的书的一向风格,适合于有必定基础后回头去看。 在分析这个方向,接下来就是泛函分析(Functional Analysis)。 Introductory Functional Analysis with Applications, by Erwin Kreyszig. 适合做为泛函的基础教材,容易切入而不失全面。我特别喜欢它对于谱论和算子理论的特别关注,这对于作learning的研究是特别重要的。Rudin也有一本关于functional analysis的书,那本书在数学上可能更为深入,可是不易于上手,所讲内容和learning的切合度不如此书。 在分析这个方向,还有一个重要的学科是测度理论(Measure theory),(泛函是一切数学之源,而测度论又是泛函的基石。现在世界顶级投行的quant大部分都是利用几率测度去作风险中性建模和衍生品订价,谁说分析数学没有用?!ibank的衍生品投资分析都是基于测度中性去作的,由于对于大规模投资来讲,最大的问题不是profit,而是risk hedging)可是我看过的书里面目前尚未感受有特别值得介绍的。 4. 拓扑 (Topology): 在我读过的基本拓扑书各有特点,可是综合而言,我最推崇: Topology (2nd Ed.) by James Munkres 这本书是Munkres教授长期执教MIT拓扑课的心血所凝。对于通常拓扑学(General topology)有全面介绍,而对于代数拓扑(Algebraic topology)也有适度的探讨。此书不须要特别的数学知识就能够开始学习,由浅入深,从最基本的集合论概念(不少书不屑讲这个)到Nagata-Smirnov Theorem和Tychonoff theorem等较深的定理(不少书避开了这个)都覆盖了。讲述方式思想性很强,对于不少定理,除了给出证实过程和引导你思考其背后的原理脉络,不少使人赞叹的亮点——我常读得忘却饥饿,不肯释手。不少习题颇有水平。 5. 流形理论 (Manifold theory): 对于拓扑和分析有必定把握时,方可开始学习流形理论,不然所学只能流于浮浅。我所使用的书是 Introduction to Smooth Manifolds. by John M. Lee 虽然书名有introduction这个单词,可是实际上此书涉入很深,除了讲授了基本的manifold, (我的以为如今vision领域的manifold learning只是一些无病呻吟的研究,it is just for papers,可是我并非说流行学习对vision没有用处,只是manifold真正的魅力远没有被挖掘出来!正像俄罗斯那一群科学怪人整出的l1-norm,谁能想到今天对vision界带来了如此大的变革。其实,有时学习数学只是一种信仰。)tangent space, bundle, sub-manifold等,还探讨了诸如纲理论(Category theory),德拉姆上同调(De Rham cohomology)和积分流形等一些比较高级的专题。对于李群和李代数也有至关多的讨论。行文通俗而又不失严谨,不过对某些记号方式须要熟悉一下。 虽然李群论是建基于平滑流形的概念之上,不过,也可能从矩阵出发直接学习李群和李代数——这种方法对于急需使用李群论解决问题的朋友可能更加实用。并且,对于一个问题从不一样角度看待也利于加深理解。下面一本书就是这个方向的典范: Lie Groups, Lie Algebras, and Representations: An Elementary Introduction. by Brian C. Hall 此书从开始即从矩阵切入,从代数而非几何角度引入矩阵李群的概念。并经过定义运算的方式创建exponential mapping,并就此引入李代数。这种方式比起传统的经过“左不变向量场(Left-invariant vector field)“的方式定义李代数更容易为人所接受,也更容易揭示李代数的意义。最后,也有专门的论述把这种新的定义方式和传统方式联系起来。 ———————————————————————————— 不管是研究Vision, Learning仍是其它别的学科,数学终究是根基所在。(数学是能与上帝对话的语言)学好数学是作好研究的基石。(若是你能摒弃了功利的去学习数学,那么数学也势必可以为你带来功利!)学好数学的关键归根结底是本身的努力可是选择一本好的书仍是大有益处的。不一样的人有不一样的知识背景,思惟习惯和研究方向,所以书的选择也因人而异,只求适合本身,没必要强求一致。上面的书仅仅是从我我的角度的出发介绍的,个人阅读经历实在很是有限,极可能还有比它们更好的书(不妨也告知我一声,先说声谢谢了)。 本文来自: 人大经济论坛 计量经济学与统计 版,详细出处参考: http://bbs.pinggu.org/forum.php?mod=viewthread&tid=589533&page=1