Sparse Filtering 是一个用于提取特征的无监督学习算法,与一般特征学习算法试图建模训练数据的分布的作法不一样,Sparse Filtering 直接对训练数据的特征分布进行分析,在所谓“好特征”的指导下构建目标函数来进行优化,其中只涉及一个可调参数。本文将主要讨论两个问题:
(1)什么样的特征是好的特征;
(2)如何利用好特征的条件来构造 Sparse Filtering 的目标函数。
目录连接算法
(一)网络结构与特征矩阵网络
(二)好特征的刻画
函数
(三)目标函数的创建和求解
学习
参考文献优化
1. Ngiam, J., Koh, P. W., Chen, Z., Bhaskar, S. A., Ng, A. Y. (2011). Sparse Filtering. In NIPS (Vol. 11, pp. 1125-1133).spa
2. 牛顿法与拟牛顿法学习笔记(五)L-BFGS 算法.net
3. Deep learning made easyblog
4. Deep Learning论文笔记之(二)Sparse Filtering稀疏滤波ip