特征工程介绍

特征工程介绍

做者：林泽龙

1 特征工程是什么？

优秀的模型每每取决于优秀的特征提取，而特征提取就须要涉及到特征工程了。特征工程是的目的是最大限度地从原始数据中提取特征以供算法和模型使用。所以特征工程主要是在特征处理方面进行，接下来向你们介绍几种经典和有效的特征工程方法。

实践前须要安装sklearn库，它提供了较为完整的特征处理方法，包括数据预处理，特征选择，降维等。本文中使用sklearn中的IRIS（鸢尾花）数据集来对特征处理功能进行说明。IRIS数据集由Fisher在1936年整理，包含4个特征（Sepal.Length（花萼长度）、Sepal.Width（花萼宽度）、Petal.Length（花瓣长度）、Petal.Width（花瓣宽度）），特征值都为正浮点数，单位为厘米。目标值为鸢尾花的分类（Iris Setosa（山鸢尾）、Iris Versicolour（杂色鸢尾），Iris Virginica（维吉尼亚鸢尾））。

导入IRIS数据集的代码以下：

from sklearn.datasets import load_iris
 
#导入IRIS数据集
iris = load_iris()

#特征矩阵
iris.data

#目标向量
iris.target

2 数据预处理

经过特征提取，咱们能获得未经处理的特征，这时的特征可能有如下问题：

1. 不属于同一量纲：即特征的规格不同，不可以放在一块儿比较。无量纲化能够解决这一问题。
2. 信息冗余：对于某些定量特征，其包含的有效信息为区间划分，例如学习成绩，倘若只关心“及格”或不“及格”。
3. 存在缺失值：缺失值须要补充。

2.1 统一量纲

统一量纲须要把数据转换成同一规格，常见的方法有标准化和区间缩放法。标准化的前提是特征值服从正态分布，标准化后，其转换成标准正态分布。区间缩放法利用了边界值信息，将特征的取值区间缩放到某个特色的范围。

2.1.1 标准化

标准化须要计算特征的均值和标准差，公式表达为：

$$ x^{\prime}=\frac{x-\bar{X}}{S} $$

代码以下：

from sklearn.preprocessing import StandardScaler
 
#标准化，返回值为标准化后的数据
StandardScaler().fit_transform(iris.data)

2.1.2 区间缩放法

区间缩放法的思路是将全部值按照比例的方式呈现，缩放的方法有多种，常见的是利用两个最值进行缩放，公式表达为：

$$ x^{\prime}=\frac{x-M i n}{M a x-M i n} $$

代码以下：

from sklearn.preprocessing import MinMaxScaler

#区间缩放，返回值为缩放到[0, 1]区间的数据
MinMaxScaler().fit_transform(iris.data)

2.1.3 归一化

简单来讲，标准化是依照特征矩阵的列处理数据，其经过求z-score的方法，将样本的特征值转换到同一量纲下。归一化是依照特征矩阵的行处理数据，其目的在于样本向量在点乘运算或其余核函数计算类似性时，拥有统一的标准，也就是说都转化为“单位向量”。规则为l2的归一化公式以下：

$$ x^{\prime}=\frac{x}{\sqrt{\sum_{j}^{m} x[j]^{2}}} $$

代码以下：

from sklearn.preprocessing import Normalizer

#归一化，返回值为归一化后的数据
Normalizer().fit_transform(iris.data)

2.2 二值化

二值化的核心在于设定一个阈值，大于阈值的赋值为1，小于等于阈值的赋值为0，公式表达以下：

$$ x=\left\{\begin{array}{ll}1 & x>\text { threshold} \\ 0 & x \leqslant t \text {hreshold}\end{array}\right. $$

代码以下：

from sklearn.preprocessing import Binarizer

#二值化，阈值设置为3，返回值为二值化后的数据
Binarizer(threshold=3).fit_transform(iris.data)

2.3 缺省值计算

IRIS数据集没有缺失值，可是实际过程缺是常常发生缺失数据的，常见的方法是利用相邻数据补齐，或者是其余方法。也能够直接使用preproccessing库的Imputer类对数据进行缺失值计算。

代码以下：

from numpy import vstack, array, nan
from sklearn.impute  import SimpleImputer

#缺失值计算，返回值为计算缺失值后的数据
#参数missing_value为缺失值的表示形式，默认为NaN
#参数strategy为缺失值填充方式，默认为mean（均值）
Imp=SimpleImputer().fit_transform(vstack((array([nan, nan, nan, nan]), iris.data)))

3 特征选择

当数据预处理完成后，咱们须要选择有意义的特征输入机器学习的算法和模型进行训练。一般来讲，从两个方面考虑来选择特征：

1. 特征是否发散：若是一个特征不发散，例如方差接近于0，也就是说样本在这个特征上基本上没有差别，这个特征对于样本的区分并无什么用。
2. 特征与目标的相关性：这点比较显见，与目标相关性高的特征，应当优选选择。除方差法外，本文介绍的其余方法均从相关性考虑。

根据特征选择的形式又能够将特征选择方法分为3种过滤法（Filter）、包装法（Wrapper）和嵌入法（Embedded）。

3.1 过滤法

过滤法，按照发散性或者相关性对各个特征进行评分，设定阈值或者待选择阈值的个数，选择特征。

3.1.1 方差选择法

使用方差选择法，先要计算各个特征的方差，而后根据阈值，选择方差大于阈值的特征。使用feature_selection库的VarianceThreshold类来选择特征的代码以下：

from sklearn.feature_selection import VarianceThreshold

#方差选择法，返回值为特征选择后的数据
#参数threshold为方差的阈值
VarianceThreshold(threshold=3).fit_transform(iris.data)

3.1.2 相关系数法

使用相关系数法，先要计算各个特征对目标值的相关系数以及相关系数的P值。用feature_selection库的SelectKBest类结合相关系数来选择特征的代码以下：

from sklearn.feature_selection import SelectKBest
from scipy.stats import pearsonr

#选择K个最好的特征，返回选择特征后的数据
#第一个参数为计算评估特征是否好的函数，该函数输入特征矩阵和目标向量，输出二元组（评分，P值）的数组，数组第i项为第i个特征的评分和P值。在此定义为计算相关系数
#参数k为选择的特征个数
Pea=SelectKBest(lambda X, Y: array(list(map(lambda x:pearsonr(x, Y), X.T))).T[0], k=2).fit_transform(iris.data, iris.target)

3.1.3 卡方检验

经典的卡方检验是检验定性自变量对定性因变量的相关性。假设自变量有N种取值，因变量有M种取值，考虑自变量等于i且因变量等于j的样本频数的观察值与指望的差距，构建统计量：

$$ \chi^{2}=\sum \frac{(A-E)^{2}}{E} $$

代码以下：

from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2

#选择K个最好的特征，返回选择特征后的数据
SelectKBest(chi2, k=2).fit_transform(iris.data, iris.target)

3.1.4 互信息法

经典的互信息也是评价定性自变量对定性因变量的相关性的，互信息计算公式以下：

$$ I(X ; Y)=\sum_{x \in X} \sum_{y \in Y} p(x, y) \log \frac{p(x, y)}{p(x) p(y)} $$

为了处理定量数据，最大信息系数法被提出，使用feature_selection库的SelectKBest类结合最大信息系数法来选择特征的代码以下：

from sklearn.feature_selection import SelectKBest
from minepy import MINE
 
 #因为MINE的设计不是函数式的，定义mic方法将其为函数式的，返回一个二元组，二元组的第2项设置成固定的P值0.5
def mic(x, y):
    m = MINE()
    m.compute_score(x, y)
    return (m.mic(), 0.5)

#选择K个最好的特征，返回特征选择后的数据
MIN=SelectKBest(lambda X, Y: array(list(map(lambda x:mic(x, Y), X.T))).T[0], k=2).fit_transform(iris.data, iris.target)

3.2 包装法

包装法，根据目标函数（一般是预测效果评分），每次选择若干特征，或者排除若干特征。

3.2.1 递归特征消除法

递归消除特征法使用一个基模型来进行多轮训练，每轮训练后，消除若干权值系数的特征，再基于新的特征集进行下一轮训练。使用feature_selection库的RFE类来选择特征的代码以下：

from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression

#递归特征消除法，返回特征选择后的数据
#参数estimator为基模型
#参数n_features_to_select为选择的特征个数
RFE(estimator=LogisticRegression(), n_features_to_select=2).fit_transform(iris.data, iris.target)

3.3 嵌入法

嵌入法，先使用某些机器学习的算法和模型进行训练，获得各个特征的权值系数，根据系数从大到小选择特征。相似于Filter方法，可是是经过训练来肯定特征的优劣。

3.3.1 基于惩罚项的特征选择法

　　使用带惩罚项的基模型，除了筛选出特征外，同时也进行了降维。使用feature_selection库的SelectFromModel类结合带L1惩罚项的逻辑回归模型，来选择特征的代码以下：

from sklearn.feature_selection import SelectFromModel
from sklearn.linear_model import LogisticRegression

#带L1惩罚项的逻辑回归做为基模型的特征选择
SelectFromModel(LogisticRegression(penalty="l1", C=0.1)).fit_transform(iris.data, iris.target)

3.3.2 基于树模型的特征选择法

树模型中GBDT也可用来做为基模型进行特征选择，使用feature_selection库的SelectFromModel类结合GBDT模型，来选择特征的代码以下：

from sklearn.feature_selection import SelectFromModel
from sklearn.ensemble import GradientBoostingClassifier

#GBDT做为基模型的特征选择
SelectFromModel(GradientBoostingClassifier()).fit_transform(iris.data, iris.target)

4 特征降维

当特征选择完成后，能够直接训练模型了，可是可能因为特征矩阵过大，致使计算量大，训练时间长的问题，所以下降特征矩阵维度也是必不可少的。常见的降维方法除了以上提到的基于L1惩罚项的模型之外，另外还有主成分分析法（PCA）和线性判别分析（LDA），线性判别分析自己也是一个分类模型。若是想深刻了解能够学习MO平台整理的李宏毅老师的课程

4.1 主成分分析法（PCA）

　　使用decomposition库的PCA类选择特征的代码以下：

from sklearn.decomposition import PCA

#主成分分析法，返回降维后的数据
#参数n_components为主成分数目
PCA(n_components=2).fit_transform(iris.data)

4.2 线性判别分析法（LDA）

　　使用lda库的LDA类选择特征的代码以下：

from sklearn.discriminant_analysis import LinearDiscriminantAnalysis as LDA

#线性判别分析法，返回降维后的数据
#参数n_components为降维后的维数
Lda=LDA(n_components=2).fit_transform(iris.data, iris.target)

项目源码地址：https://momodel.cn/workspace/5e99e4c74be1cf87a370a0f0?type=app

5. 参考资料

• IRIS数据集说明：IRIS数据集
• 博客：sklearn作单机特征工程

关于咱们

Mo（网址：https://momodel.cn） 是一个支持 Python的人工智能在线建模平台，能帮助你快速开发、训练并部署模型。

近期 Mo 也在持续进行机器学习相关的入门课程和论文分享活动，欢迎你们关注咱们的公众号获取最新资讯！