特征选择的包装法Wrapper

1、包装法的效果是所有特征选择方法中最利于提升模型表现的，它可以使用很少的特征达到很优秀的效果。除此之外，在特征数目相同时，包装法和嵌入法的效果能够匹敌，不过它比嵌入法算得更见缓慢，所以也不适用于太大型的数据。

创新互联建站专业为企业提供商洛网站建设、商洛做网站、商洛网站设计、商洛网站制作等企业网站建设、网页设计与制作、商洛企业网站模板建站服务，十余年商洛做网站经验，不只是建网站，更提供有价值的思路和整体网络服务。

2、Wrapper方法需要选定一种评估模型效果的指标，如Area Under the Curve (AUC)、Mean Absolute Error (MAE)、Mean Squared Error(MSE)。

3、特征选择是指直接删除不相关且冗余的特征，保留原始数据最有价值的信息，形成一 个最优的特征子集，特征本身并没有被改变。依据特征选择和学习器的不同结合方式，特征选择方法可以分为三类：过滤法，包装法和嵌入法。

4、wrapper法 过滤法在选择特征时不考虑特征对学习器的效果，包裹式选择就很灵性了。包裹式通常根据预测效果评分来为学习器“量身定制”特征子集，相较于过滤法，能使学习器的性能更佳，缺点即是计算开销往往也更大。

5、下面只讲特征选择，特征选择有四种方法：过滤法，嵌入法，包装法，和降维算法。

6、后面我们将描述基于域的不同的特征选择聚类（FSC）方法。介绍：传统FSC，文本数据中的FSC，流数据中的FSC和FSC链接数据。与监督学习的特征选择类似，用于聚类的特征选择也被分类为Filter[15]、Wrapper[55]、Hybrid[19]。

特征选择的方法

通过深度学习来进行特征选择：目前这种手段正在随着深度学习的流行而成为一种手段，尤其是在计算机视觉领域，原因是深度学习具有自动学习特征的能力，这也是深度学习又叫unsupervised feature learning的原因。

而Embedded特征选择方法与算法本身紧密结合，在模型训练过程中完成特征的选择。

Heatmap 是检查和寻找相关特征的最简单方法。大多数特征在某种程度上相互关联，但有些特征具有非常高的相关性，例如长度与轴距以及发动机尺寸与马力。可以根据相关阈值手动或以编程方式删除这些功能。

特征提取和特征选择异同 特征提取 ：通过映射（变换）的方法，将高维的特征向量变换为低维特征向量。

平均精确率减少（Mean decrease accuracy） 特征选择方法就是直接度量每个特征对模型精确度的影响。主要思路是打乱每个特征的特征值顺序，并且度量顺序变动对模型的精确率的影响。

包裹式特征选择会受冗余影响吗

1、但是包裹式特征选择由于特征子集受特定的学习算法影响比较大，容易出现“过拟合”，并且使用不同的学习算法，得到的特征子集也不同， 所以获得的特征子集的稳定性和适应性较差。（3）嵌入式（embedding）。

2、冗余的特征会影响阻碍模型找寻数据潜在的规律，若冗余的特征过多，还会造成维度容灾，占用大量的时间空间，使算法运行效率大打折扣。去除不相关的特征会降低学习任务的难度，保留关键的特征更能直观的看出数据潜在的规律。

3、如果选用的特征过多、冗余或噪声特征较多，会影响模型的识别和预测准确率。因此在选择特征时，建议采用特征选择方法，去掉无用特征和冗余特征，提升模型的“鲁棒性”。

4、包裹式特征选择是将特征选择和学习过程结合起来，将特征选择看作一个子集搜索问题，每次选择一个特定的子集，用这个子集去训练学习器，然后将训练器的性能作为特征子集的评价。

5、比如，有些骗子会冒充知名机构或大咖发布重要信息，利用用户的好奇心或贪心，引导他们点击链接或者参与活动。在点击链接后，用户会所说的，特征选择的方法大致分为三类：过滤型、包裹型和嵌入型。

网页名称：特征选择算法代码java 特征选择实现
文章转载：http://kswjz.com/article/deedege.html