Andrew Ng机器学习公开课笔记 -- Online Learning
网易公开课，第11课
notes，http://cs229.stanford.edu/notes/cs229-notes6.pdfhtml
和以前看到的batch learning算法不同，batch learning必定是先用训练集进行训练，而后才进行预测es6
可是online learning，没必要要必定有训练的过程，能够一边预测的同时一边训练算法
这个其实很现实，系统上线前也许很难收集到数据，而且数据也许也是在不断变化的函数
下面就用perceptron algorithm做为例子看看如何实现online learning的，学习
感知器（perception）应该能够说是最为简单的线性分类算法，优化
能够看到，它能够说是简化版的logistics回归，由于logistics只须要把阶跃函数换成sigmoid函数便可
同时它也是SVM的理论基础htm
如何实现online learning，其实也很简单，以前咱们学过一个最优化算法，随机梯度降低，就很适合这个场景
由于这个算法，只须要一个样本点就能够进行优化blog
而这里写成这个形式，ci
看着更简单，实际上是同样的get
别看这个那么简单，可是能够证实即使是对于无限维向量x，这个算法的偏差总数（即在数据序列中预测错多少个）也是有上届的，而且和序列中的样本个数或x维数都没有explicit dependence。
定理以下，更详细的解释和证实，参考在线学习（Online Learning）
相关文章
- 1. Andrew Ng机器学习公开课笔记 -- Generative Learning algorithms
- 2. Andrew Ng机器学习公开课笔记 -- 学习理论
- 3. Andrew Ng机器学习公开课笔记 -- 支持向量机
- 4. Andrew Ng机器学习公开课笔记–Principal Components Analysis (PCA)
- 5. Andrew Ng机器学习公开课笔记 – Factor Analysis
- 6. 【原】Coursera—Andrew Ng机器学习—课程笔记 Lecture 9_Neural Networks learning
- 7. Andrew Ng机器学习笔记week10 大规模机器学习
- 8. Andrew Ng机器学习笔记（一）
- 9. Andrew Ng 机器学习笔记（八）
- 10. Andrew Ng机器学习笔记（六）
- 更多相关文章...
- • 您已经学习了 XML Schema，下一步学习什么呢？ - XML Schema 教程
- • 我们已经学习了 SQL，下一步学习什么呢？ - SQL 教程
- • Tomcat学习笔记（史上最全tomcat学习笔记）
- • 适用于PHP初学者的学习线路和建议
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
欢迎关注本站公众号,获取更多信息
相关文章
- 1. Andrew Ng机器学习公开课笔记 -- Generative Learning algorithms
- 2. Andrew Ng机器学习公开课笔记 -- 学习理论
- 3. Andrew Ng机器学习公开课笔记 -- 支持向量机
- 4. Andrew Ng机器学习公开课笔记–Principal Components Analysis (PCA)
- 5. Andrew Ng机器学习公开课笔记 – Factor Analysis
- 6. 【原】Coursera—Andrew Ng机器学习—课程笔记 Lecture 9_Neural Networks learning
- 7. Andrew Ng机器学习笔记week10 大规模机器学习
- 8. Andrew Ng机器学习笔记（一）
- 9. Andrew Ng 机器学习笔记（八）
- 10. Andrew Ng机器学习笔记（六）