自编码器----Autoencoder

1、自编码器:降维【无监督学习】

PCA简介:【线性】原矩阵乘以过渡矩阵W获得新的矩阵,原矩阵和新矩阵是一样的东西,只是经过W换基。html

 

自编码:网络

自动编码器是一种无监督的神经网络模型,它能够学习到输入数据的隐含特征,这称为编码(coding),同时用学习到的新特征能够重构出原始输入数据,称之为解码(decoding)。从直观上来看,自动编码器能够用于特征降维,相似主成分分析PCA,可是其相比PCA其性能更强,这是因为神经网络模型能够提取更有效的新特征。除了进行特征降维,自动编码器学习到的新特征能够送入有监督学习模型中,因此自动编码器能够起到特征提取器的做用。做为无监督学习模型,自动编码器还能够用于生成与训练样本不一样的新数据,这样自动编码器(变分自动编码器,VariationalAutoencoders)就是生成式模型。
post

类型:堆栈自动编码器(StackedAutoencoder)、去噪自动编码器(DenoisingAutoencoder),稀疏自动编码器(SparseAutoencoder)以及变分自动编码器。性能

 

自编码和PCA的区别:学习

因为神经网络可以学习非线性关系,所以能够认为这是PCA更有力(非线性)的泛化。而PCA试图发现描述原始数据的低维超平面,自编码器则可以学习非线性流形(流形为连续的非交叉的曲面)。这两种方法之间的区别以下图所示。编码

自编码还原的结果比PCA清晰。code

 

 而二者的重点是要拿到比较好的30维code。htm

2、降噪自编码【加噪声】

3、CNN、DNN、RBM、DBN来实现自编码:

 

转载于:https://www.cnblogs.com/Lee-yl/p/10109764.htmlblog