[机器学习入门] 李宏毅机器学习笔记-24(introduction of Structured Learning;结构化学习介绍)

[机器学习入门] 李宏毅机器学习笔记-24(introduction of Structured Learning;结构化学习介绍)

PDF VIDEO

introduction of Structured Learning

到目前为止,不管是做SVM还是Deep Learning,input 和 output 都只是向量,而实际上我们真正面对的问题,要比向量更复杂,因此我们需要一个f,来计算两个object。

这里写图片描述

Example Application

这里写图片描述

Structure Learning 听起来很麻烦,但实际上我们有一种Unified Framework。

这里写图片描述

Example 1 Unified Framework – Object Detection

这里写图片描述

那么是怎么做的呢?

我们的目的就是训练出一个f ,使方框框在不同位置时,有不同的输出,比如上图红绿蓝三个框,显然红框应该得到最好的输出。相应的test如下。

这里写图片描述


example 2 Unified Framework - Summarization

这里写图片描述


example 3 Unified Framework -Retrieval

这里写图片描述

这里写图片描述

将Unified Framework 换一种说法。

training:x,y一起出现的几率。
testing:根据这个几率,找最有可能的y

这里写图片描述

用几率来做也有坏处与坏处。

Drawback for probability:
* Probability cannot explain everything
* 0-1 constraint is not necessary

Strength for probability :
* Meaningful


There are three problems in this framework.

这里写图片描述

problem 1 :

这里写图片描述

problem 2 :

这里写图片描述

problem 3 :

这里写图片描述

这里写图片描述

Link to DNN?

DNN是 Structure Learning 的特殊情况,比如在手写识别中:

这里写图片描述