基于Spark的机器学习实践 (十) - 降维

经过讲解PCA算法的原理，使你们明白降维算法的大体原理，以及可以实现怎么样的功能。结合应用降维算法在分类算法使用以前进行预处理的实践，帮助你们体会算法的做用。

0 相关源码

1 PCA算法及原理概述

1.1 何为降维?

◆ 从高维度变为低维度的过程就是降维

◆ 例如拍照就是把处在三维空间中的人或物从转换到做为二 维平面的 照片中

◆ 降维有线性的、也有非线性的方法。在机器学习中能够简化运算,减小特征量

1.2 PCA算法介绍

◆ PCA算法是一种经常使用的线性降维算法,算法相似于"投影”

◆ 降维简化了数据集,故能够视为一个压缩过程,在压缩过程当中可能;会有信息丢失

◆ PCA除能够用来精简特征,还能够应用在图像处理中 例如基于PCA算法的特征脸法,它能够用来人脸识别

1.3 PCA算法原理简介

◆ PCA是基于K-L变换实现的一种算法

◆ PCA算法在实现上用到了协方差矩阵,以及矩阵的特征分解

◆ 基本主要内容在于求出协方差矩阵,而后求协方差矩阵的特征值与特征向量

1.4 PCA算法步骤

◆ 输入n行m列的矩阵X ,表明m条n维数据

◆ 将矩阵X的每一行进行零均值化处理

◆ 求出X的协方差矩阵C

◆ 求出协方差矩阵C的特征值 与特征向量

◆ 将特征向量按照特征值的大小从上至下依次排列,取前k行,做为矩阵P

◆ 求出P与X矩阵叉乘的结果,即为降维值k维的m条数据

2 实战PCA算法实现降维

• 代码

  

• 特征列降维成3个

  

Spark机器学习实践系列

• 基于Spark的机器学习实践 (一) - 初识机器学习
• 基于Spark的机器学习实践 (二) - 初识MLlib
• 基于Spark的机器学习实践 (三) - 实战环境搭建
• 基于Spark的机器学习实践 (四) - 数据可视化
• 基于Spark的机器学习实践 (六) - 基础统计模块
• 基于Spark的机器学习实践 (七) - 回归算法
• 基于Spark的机器学习实践 (八) - 分类算法
• 基于Spark的机器学习实践 (九) - 聚类算法
• 基于Spark的机器学习实践 (十) - 降维算法

X 联系我

图片标题

Java交流群

博客

知乎

Github