七步精通Python机器学习

七步精通Python机器学习

0 评论

开始。这是最容易使人丧失斗志的两个字。迈出第一步一般最艰难。当能够选择的方向太多时，就更让人两腿发软了。

从哪里开始？

本文旨在经过七个步骤，使用所有免费的线上资料，帮助新人获取最基本的 Python 机器学习知识，直至成为博学的机器学习实践者。这篇概述的主要目的是带领读者接触众多免费的学习资源。这些资源有不少，但哪些是最好的？哪些相互补充？怎样的学习顺序才最好？

我假定本文的读者不是如下任何领域的专家：

▪  机器学习 
▪  Python 
▪  任何Python的机器学习、科学计算、数据分析库
 

若是你有前两个领域其一或所有的基础知识，可能会颇有帮助，但这些也不是必需的。在下面几个步骤中的前几项多花点时间就能够弥补。

第一步：基本 Python 技能 

若是要使用 Python 进行机器学习，拥有对 Python 有基础的理解很是关键。幸运的是，Python 是当前广泛使用的流行语言，并归入了科学计算和机器学习的内容，因此找到入门教程并不困难。在选择起点时，很大程度上要取决于你以前的 Python 经验和编程经验。
 

首先要安装 Python 。因为咱们要使用机器学习和科学计算的 packages ，这里建议安装  Anaconda。Anaconda 是一个可在 Linux , OSX , Windows 上运行的 Python 实现工具，拥有所需的机器学习 packages ，包括 numpy，scikit-learn，matplotlib。它还包含iPython Notebook ，一个带有许多教程的交互式环境。这里推荐使用 Python 2.7 ，不是由于特殊缘由，只是由于它是目前安装版本中的主流。

若是你以前没有编程知识，建议你阅读这本免费电子书，而后再接触其余学习材料：
▪  Python The Hard Way 做者Zed A. Shaw 
 

若是你以前有编程知识，但不是Python的，又或者你的Python水平很基础，推荐下列一种或几种教程：
▪  Google Developers Python Course（(强烈推荐给视觉型学习者）

▪  An Introduction to Python for Scientific Computing (from UCSB Engineering) 做者 M. Scott Shell (一个很好的 Python 科学计算简介，60 页) 

对于想要速成课程的人，这里有：
▪  Learn X in Y Minutes (X = Python) 
固然，若是你是个经验丰富的Python程序员，能够跳过这一步。尽管如此，仍是建议你把通俗易懂的 Python documentation  放在手边。 

第二步：机器学习基础技能

KDnuggets 的 Zachary Lipton 指出，人们对于“数据科学家”的认知千差万别。这其实是对机器学习领域的反映。数据科学家在不一样程度上使用计算学习算法。要创建和使用支持向量机模型，熟知核函数方法是不是必需的？答案固然不是。就像现实生活中的许多事情同样，所须要的理论深刻程度与具体的实际应用有关。获取对机器学习算法的深刻理解不是本文的讨论范围， 并且这一般须要在学术领域投入大量时间，或者至少要经过密集的自学才能达到。

 

好消息是，你没必要拥有博士级别的机器学习理论能力才能进行实践，就如同不是全部程序员都必须接受计算机理论教育才能写好代码。

 

吴恩达在 Coursera 的课程饱受赞誉。但个人建议是去看看一名之前的学生作的笔记。略过那些针对 Octave（一个与 Python 无关的，类 Matlab 语言）的内容。须要注意，这些不是“官方”的笔记，虽然看起来的确抓住了吴恩达课程材料的相关内容。若是你有时间，能够本身去 Coursera 完成这个课程 ：Andrew Ng's Machine Learning course 。 
▪  非官方课程笔记连接 

除了吴恩达的课程之外，还有不少其余视频教程。我是Tom Mitchell的粉丝，下面是他（与Maria-Florina Balcan共同完成的）最新的课程视频，对学习者很是友好：

▪  Tom Mitchell Machine Learning Lectures 

你不须要如今看彻底部的笔记和视频。比较好的策略是向前推动，去作下面的练习，须要的时候再查阅笔记和视频。好比，你要作一个回归模型，就能够去查阅吴恩达课程有关回归的笔记以及/或者Mitchell的视频。 

第三步：科学计算 Python packages 一览 

好了。如今咱们有了 Python 编程经验，并对机器学习有所了解。Python 有不少为机器学习提供便利的开源库。一般它们被称为Python科学库（scientific Python libraries），用以执行基本的数据科学任务（这里有一点程度主观色彩）：

 

▪  numpy - 主要用于N维数组

▪  pandas - Python数据分析库，包含dataframe等结构

▪  matplotlib - 2D绘图库，产出质量足以进行印刷的图

▪  scikit-learn - 数据分析、数据挖掘任务使用的机器学习算法

学习以上这些内容可使用：

▪  Scipy Lecture Notes 做者 Gaël Varoquaux， Emmanuelle Gouillart， Olav Vahtras 

下面这个pandas教程也不错，贴近主题：

▪  10 Minutes to Pandas 

在后面的教程中你会看到其余一些packages，好比包括Seaborn，一个基于matplotlib的可视化库。前面提到的packages （再次认可具备必定主观色彩）是许多Python机器学习任务的核心工具。不过，理解它们也可让你在以后的教程中更好理解其余相关packages。

好了，如今到了有意思的部分.....
 

 

第四步：开始用Python进行机器学习

Python。搞定。

机器学习基础。搞定。

Numpy。搞定。

Pandas。搞定。

Matplotlib。搞定。 

是时候用Python的标准机器学习库，scikit-learn，实现机器学习算法了。


scikit-learn 算法选择图

下面许多教程和练习都基于交互式环境iPython (Jupyter) Notebook。这些iPython Notebooks有些能够在网上观看，有些能够下载到本地电脑。
▪  iPython Notebook概览 斯坦福大学 

也请注意下面的资源来自网络。全部资源属于做者。若是出于某种缘由，你发现有做者没有被说起，请告知我，我会尽快改正。在此特别要向Jake VanderPlas，Randal Olson，Donne Martin，Kevin Markham，Colin Raffel致敬，感谢他们提供的优秀免费资源。

下面是scikit-learn的入门教程。在进行下一个步骤以前，推荐作完下列所有教程。

对于scikit-learn的总体介绍，它是Python最经常使用的通用机器学习库，包含knn最近邻算法：
▪  An Introduction to scikit-learn 做者 Jake VanderPlas 

更深刻更宽泛的介绍，包含一个新手项目，从头至尾使用一个著名的数据集：
▪  Example Machine Learning Notebook 做者Randal Olson 

专一于scikit-learn中评估不一样模型的策略，涉及训练集/测试集拆分：
▪  Model Evaluation 做者 Kevin Markham 

 

第五步：Python机器学习主题

在scikit-learn打下基础之后，咱们能够探索更多有用的常见算法。让咱们从最知名的机器学习算法之一，k-means聚类开始。对于无监督学习问题，k-means一般简单有效：
▪  k-means Clustering 做者Jake VanderPlas 

接下来是分类，让咱们看看史上最流行的分类方法之一，决策树：
▪  Decision Trees via The Grimm Scientist 

分类以后，是连续数字变量的预测：
▪  Linear Regression 做者 Jake VanderPlas 

经过逻辑斯蒂回归，咱们能够用回归解决分类问题：
▪  Logistic Regression 做者Kevin Markham 


第六步：Python高级机器学习

接触过scikit-learn，如今让咱们把注意力转向更高级的内容。首先是支持向量机，一个无需线性的分类器，它依赖复杂的数据转换，把数据投向高维空间。
▪  Support Vector Machines 做者 Jake VanderPlas 

接下来是随机森林，一种集成分类器。下面的教程经过 Kaggle Titanic Competition讲解。 
▪  Kaggle Titanic Competition (with Random Forests) 做者 Donne Martin 

降维是一种减小问题涉及的变量数目的方法。PCA主成分分析是一种无监督学习降维的特殊形式：
▪  Dimensionality Reduction 做者 Jake VanderPlas 

在开始下一步以前，能够暂停一下，回想咱们在短短的时间已经走了多远。
经过使用Python和它的机器学习库，咱们涵盖了一些最经常使用最知名的机器学习算法（knn最近邻，k-means聚类，支持向量机），了解了一种强有力的集成方法（随机森林），涉及了一些其余机器学习支持方案（降维，模型验证技巧）。在一些基础机器学习的技巧的帮助下，咱们开始有了一个渐渐丰富的工具箱。

在结束之前，让咱们给工具箱增长一个需求很大的工具：

 

第七步 ：Python深度学习

学习，深深地。

处处都在深度学习！深度学习基于过去几十年的神经网络研究，但最近几年的发展大大增长了深度神经网络的能力和对于它的兴趣。若是你不熟悉深度学习，KDnuggets 有许多文章 ，详细介绍最近的进展、成果，以及对这项技术的赞誉。 

本文的最后一部分并不想成为某种深度学习示范教程。咱们会关注基于两个Python深度学习库的简单应用。对于想了解更多的读者，我推荐下面这本免费在线书：
▪  Neural Networks and Deep Learning 做者 Michael Nielsen 

Theano 
Theano是咱们关注的第一个Python深度学习库。根据做者所说：

做为一个Python库，Theano让你能够有效定义、优化、评估包含多维数组的数学表达式。

下面的Theano深度学习教程很长，但很是不错，描述详细，有大量评论：
▪  Theano Deep Learning Tutorial 做者 Colin Raffel 

Caffe 
咱们关注的另外一个库是Caffe。根据它的做者所说：

Caffe是一个深度学习框架。开发过程当中时刻考虑着表达式、速度、模型。 它是由Berkeley Vision and Learning Center (BVLC) 和社区贡献者共同开发的。

这个教程是本文的压轴。尽管上面列举了一些有趣的案例，没有那个比得上下面这个：用Caffe实现Google的 #DeepDream。但愿你喜欢！理解这个教程之后，尽情玩乐，让你的处理器开始本身作梦吧。 
▪  Dreaming Deep with Caffe via Google's GitHub 
 

 

我不敢保证Python机器学习是速成的或简单的。但只要投入时间，遵循这七个步骤，你无疑会对于这个领域拥有足够的熟练度和理解，会使用流行的Python库实现许多机器学习算法，甚至当今深度学习领域的前沿内容。

 

做者简介: Matthew Mayo是一名计算机专业的研究生。他目前在从事并行机器学习算法方面的论文工做。同时他也是一个数据挖掘学习者，数据爱好者，立志成为机器学习科学家。