RFE#

class sklearn.feature_selection.RFE(estimator, *, n_features_to_select=None, step=1, verbose=0, importance_getter='auto')[源代码]#

特征排名,具有循环特征消除。

给定一个外部估计器,为特征分配权重(例如,线性模型的系数),递归特征消除(RFE)的目标是通过递归地考虑越来越小的特征集合来选择特征。首先,估计器在初始特征集上进行训练,每个特征的重要性通过任何特定属性或可调用项获得。然后,从当前特征集中修剪最不重要的特征。该过程在修剪后的集中循环重复,直到最终达到要选择的特征的所需数量。

阅读更多的 User Guide .

参数:
estimator : Estimator 例如估计实例

具有监督学习估计器 fit 提供有关特征重要性信息的方法(例如 coef_ , feature_importances_ ).

n_features_to_selectint或float,默认=无

要选择的功能数量。如果 None ,则选择一半的特征。如果是整数,则参数是要选择的特征的绝对数量。如果在0和1之间浮动,则它是要选择的要素的分数。

在 0.24 版本发生变更: 为分数添加了浮动值。

stepint或float,默认=1

如果大于或等于1,则 step 对应于每次迭代要删除的特征的(整)数量。如果在(0.0,1.0)内,那么 step 对应于每次迭代时要删除的功能的百分比(向下四舍五入)。

verboseint,默认=0

控制输出的详细程度。

importance_getter字符串或可调用,默认=' Auto '

如果为“自动”,则通过 coef_feature_importances_ 估计量的属性。

还接受指定用于提取要素重要性的属性名称/路径的字符串(使用实现 attrgetter ).比如给 regressor_.coef_ 的情况下 TransformedTargetRegressornamed_steps.clf.feature_importances_ 如果是类:'~sklearn.pipeline.Pipeline ',其最后一步名为 clf .

如果 callable ,覆盖默认功能重要性获取器。调用对象与匹配的估计器一起传递,并且它应该返回每个特征的重要性。

Added in version 0.24.

属性:
classes_形状的nd数组(n_classes,)

类别标签可用时 estimator 是分类器。

estimator_ : Estimator 例如估计实例

用于选择特征的匹配估计量。

n_features_int

选定功能的数量。

n_features_in_int

期间看到的功能数量 fit .仅在基础估计器在适合时暴露此类属性时才定义。

Added in version 0.24.

feature_names_in_ :nd形状数组 (n_features_in_ ,)nd数组形状(

Names of features seen during fit. Defined only when X has feature names that are all strings.

Added in version 1.0.

ranking_形状的nd数组(n_features,)

功能排名,例如 ranking_[i] 对应于第i个要素的排名位置。选择(即,估计的最佳)特征被分配为排名1。

support_形状的nd数组(n_features,)

选定特征的面具。

参见

RFECV

通过内置交叉验证选择最佳数量的特征来实现渐进特征消除。

SelectFromModel

基于重要性权重阈值的特征选择。

SequentialFeatureSelector

基于顺序交叉验证的特征选择。不依赖于重要性权重。

注意到

如果基础估计器也允许NaN/Inf,则允许输入中的NaN/Inf。

引用

[1]

盖伊,I.,Weston,J.,南卡罗来纳州巴恩希尔,& Vapnik,V.,“使用支持载体机进行癌症分类的基因选择”,马赫。学习。,46(1-3),389--422,2002年。

示例

下面的示例展示了如何检索Friedman #1数据集中信息量最大的5个特征。

>>> from sklearn.datasets import make_friedman1
>>> from sklearn.feature_selection import RFE
>>> from sklearn.svm import SVR
>>> X, y = make_friedman1(n_samples=50, n_features=10, random_state=0)
>>> estimator = SVR(kernel="linear")
>>> selector = RFE(estimator, n_features_to_select=5, step=1)
>>> selector = selector.fit(X, y)
>>> selector.support_
array([ True,  True,  True,  True,  True, False, False, False, False,
       False])
>>> selector.ranking_
array([1, 1, 1, 1, 1, 6, 4, 3, 2, 5])
decision_function(X)[源代码]#

计算的决策函数 X .

参数:
X形状(n_样本,n_特征)的{类阵列或稀疏矩阵}

输入样本。在内部,它将被转换为 dtype=np.float32 并且如果将稀疏矩阵提供给稀疏矩阵 csr_matrix .

返回:
score数组,形状= [n_samples, n_classes] 或 [n_samples]

输入样本的决策函数。类的顺序与属性中的顺序相对应 classes_ .回归和二元分类产生一系列形状 [n_samples] .

fit(X, y, **fit_params)[源代码]#

根据所选特征对RFE模型进行匹配,然后根据所选特征对基础估计器进行匹配。

参数:
X形状(n_samples,n_features)的{类数组,稀疏矩阵}

训练输入样本。

y形状类似阵列(n_samples,)

The target values.

**fit_paramsdict
  • 如果 enable_metadata_routing=False (默认):参数直接传递给 fit 基本估计者的方法。

  • 如果 enable_metadata_routing=True :参数安全路由到 fit 基本估计者的方法。

在 1.6 版本发生变更: 看到 Metadata Routing User Guide 了解更多详细信息。

返回:
self对象

拟合估计量。

fit_transform(X, y=None, **fit_params)[源代码]#

适应数据,然后对其进行转换。

适合变压器 Xy 具有可选参数 fit_params 并返回的转换版本 X .

参数:
X形状类似阵列(n_samples,n_features)

输入样本。

y形状为(n_samples,)或(n_samples,n_outputs)的阵列状, 默认值=无

目标值(无监督转换)。

**fit_paramsdict

其他适合参数。

返回:
X_newndray形状数组(n_samples,n_features_new)

变形的数组。

get_feature_names_out(input_features=None)[源代码]#

Mask feature names according to selected features.

参数:
input_features字符串或无的类数组,默认=无

输入功能。

  • 如果 input_featuresNone 那么 feature_names_in_ 在中用作功能名称。如果 feature_names_in_ 未定义,则生成以下输入要素名称: ["x0", "x1", ..., "x(n_features_in_ - 1)"] .

  • 如果 input_features 是一个类似阵列的,那么 input_features 必须匹配 feature_names_in_ 如果 feature_names_in_ 是定义的。

返回:
feature_names_out字符串对象的nd数组

转换的功能名称。

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请检查 User Guide 关于路由机制如何工作。

Added in version 1.6.

返回:
routingMetadataRouter

A MetadataRouter 封装路由信息。

get_params(deep=True)[源代码]#

获取此估计器的参数。

参数:
deep布尔,默认=True

如果为True,将返回此估计量和包含的作为估计量的子对象的参数。

返回:
paramsdict

参数名称映射到其值。

get_support(indices=False)[源代码]#

获取所选要素的屏蔽或整指数。

参数:
indices布尔,默认=假

如果为True,则返回值将是一个integer数组,而不是布尔屏蔽。

返回:
support阵列

从特征载体中选择保留特征的索引。如果 indices 为假,这是形状的布尔数组 [# input features] ,其中只要选择其相应的特征进行保留,元素就为True。如果 indices 是True,这是一个形状的整数组 [# output features] 其值是输入特征载体的索引。

inverse_transform(X)[源代码]#

逆转转型操作。

参数:
X形状数组 [n_samples, n_selected_features]

输入样本。

返回:
X_r形状数组 [n_samples, n_original_features]

X 在将删除要素的位置插入零列 transform .

predict(X, **predict_params)[源代码]#

将X减少到所选特征并使用估计器进行预测。

参数:
X形状数组 [n_samples, n_features]

输入样本。

**predict_paramsdict

要路由到 predict 基本估计者的方法。

Added in version 1.6: 仅在以下情况下可用 enable_metadata_routing=True ,可以使用 sklearn.set_config(enable_metadata_routing=True) .看到 Metadata Routing User Guide 了解更多详细信息。

返回:
y形状数组 [n_samples]

预测目标值。

predict_log_proba(X)[源代码]#

预测X的类对数概率。

参数:
X形状数组 [n_samples, n_features]

输入样本。

返回:
p形状数组(n_samples,n_classes)

输入样本的类对数概率。类的顺序与属性中的顺序相对应 classes_ .

predict_proba(X)[源代码]#

预测X的类概率。

参数:
X形状(n_样本,n_特征)的{类阵列或稀疏矩阵}

输入样本。在内部,它将被转换为 dtype=np.float32 并且如果将稀疏矩阵提供给稀疏矩阵 csr_matrix .

返回:
p形状数组(n_samples,n_classes)

输入样本的类概率。类的顺序与属性中的顺序相对应 classes_ .

score(X, y, **score_params)[源代码]#

将X减少到所选特征并返回估计器的分数。

参数:
X形状数组 [n_samples, n_features]

输入样本。

y形状数组 [n_samples]

The target values.

**score_paramsdict
  • 如果 enable_metadata_routing=False (默认):参数直接传递给 score 基本估计者的方法。

  • 如果 enable_metadata_routing=True :参数安全路由到 score 基本估计者的方法。

Added in version 1.0.

在 1.6 版本发生变更: 看到 Metadata Routing User Guide 了解更多详细信息。

返回:
score浮子

Score of the underlying base estimator computed with the selected features returned by rfe.transform(X) and y.

set_output(*, transform=None)[源代码]#

设置输出容器。

看到 介绍 set_output API 了解如何使用API的示例。

参数:
transform{“默认”,“pandas”,“polars”},默认=无

配置输出 transformfit_transform .

  • "default" :Transformer的默认输出格式

  • "pandas" :DataFrame输出

  • "polars" :两极输出

  • None :转换配置不变

Added in version 1.4: "polars" 添加了选项。

返回:
self估计器实例

估计实例。

set_params(**params)[源代码]#

设置此估计器的参数。

该方法适用于简单估计器以及嵌套对象(例如 Pipeline ).后者具有以下形式的参数 <component>__<parameter> 以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计参数。

返回:
self估计器实例

估计实例。

transform(X)[源代码]#

Reduce X to the selected features.

参数:
X形状数组 [n_samples, n_features]

输入样本。

返回:
X_r形状数组 [n_samples, n_selected_features]

仅具有选定特征的输入样本。