ElasticNet#

class sklearn.linear_model.ElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, precompute=False, max_iter=1000, copy_X=True, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')[源代码]#

以L1和L2先验组合作为正规化器的线性回归。

最小化目标函数::

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

如果您有兴趣分别控制L1和L2惩罚,请记住这相当于:

a * ||w||_1 + 0.5 * b * ||w||_2^2

哪里::

alpha = a + b and l1_ratio = a / (a + b)

参数l1_ratio对应于glmnet R包中的Alpha,而Alpha对应于glmnet中的Lambda参数。具体来说,l1_ratio = 1是套索罚分。目前,l1_ratio <= 0.01并不可靠,除非您提供自己的Alpha序列。

阅读更多的 User Guide .

参数:
alphafloat,默认=1.0

与处罚项相乘的常数。预设为1.0。有关此参数的确切数学含义,请参阅注释。 alpha = 0 相当于普通的最小平方,由 LinearRegression object.由于数字原因,使用 alpha = 0Lasso 不建议对象。鉴于此,您应该使用 LinearRegression object.

l1_ratio浮点数,默认值=0.5

ElasticNet混合参数,带有 0 <= l1_ratio <= 1 .为 l1_ratio = 0 该处罚是L2处罚。 For l1_ratio = 1 这是L1处罚。 为 0 < l1_ratio < 1 ,点球是L1和L2的组合。

fit_intercept布尔,默认=True

是否应该估计拦截。如果 False ,则假定数据已经居中。

precompute形状的布尔或阵列状(n_features,n_features), 默认=假

是否使用预先计算的Gram矩阵来加速计算。Gram矩阵也可以作为参数传递。对于稀疏输入,此选项始终 False 以保持稀疏性。检查 an example on how to use a precomputed Gram Matrix in ElasticNet 有关详细信息

max_iterint,默认=1000

最大迭代次数。

copy_X布尔,默认=True

如果 True ,X将被复制;否则,可能会被覆盖。

tolfloat,默认= 1 e-4

优化的容差:如果更新小于 tol ,优化代码检查双重差距的最佳性并继续,直到它小于 tol ,请参阅下面的注释。

warm_start布尔,默认=假

When set to True, reuse the solution of the previous call to fit as initialization, otherwise, just erase the previous solution. See the Glossary.

positive布尔,默认=假

如果设置为 True ,强制系数为正。

random_stateint,RandomState实例,默认=无

选择要更新的随机要素的伪随机数生成器的种子。时使用 selection ==“随机”。传递int以获得跨多个函数调用的可重复输出。看到 Glossary .

selection'循环',',默认='循环'

如果设置为“随机”,则随机系数会在每次迭代中更新,而不是默认情况下顺序循环特征。这(设置为“随机”)通常会导致明显更快的收敛,尤其是当tol高于1 e-4时。

属性:
coef_形状的nd数组(n_features,)或(n_targets,n_features)

参数载体(成本函数公式中的w)。

sparse_coef_形状稀疏矩阵(n_features,)或 (n_目标,n_特征)

适合的稀疏表示 coef_ .

intercept_形状的float或ndray(n_targets,)

Independent term in decision function.

n_iter_int列表

坐标下降解算器为达到指定容差而运行的迭代次数。

dual_gap_形状的float或ndray(n_targets,)

给定参数Alpha,优化结束时的双重间隙,与y的每次观察的形状相同。

n_features_in_int

期间看到的功能数量 fit .

Added in version 0.24.

feature_names_in_ :nd形状数组 (n_features_in_ ,)nd数组形状(

Names of features seen during fit. Defined only when X has feature names that are all strings.

Added in version 1.0.

参见

ElasticNetCV

弹性网络模型,通过交叉验证选择最佳模型。

SGDRegressor

通过增量训练实施弹性净回归。

SGDClassifier

Implements logistic regression with elastic net penalty (SGDClassifier(loss="log_loss", penalty="elasticnet")).

注意到

为了避免不必要的内存重复,fit方法的X参数应直接作为Forrester连续的numpy数组传递。

精确的停止标准基于 tol 如下:首先,检查最大坐标更新,即 \(\max_j |w_j^{new} - w_j^{old}|\) 小于 tol 乘以最大绝对系数, \(\max_j |w_j|\) .如果是,那么额外检查双间隙是否小于 tol\(||y||_2^2 / n_{ ext{samples}}\) .

示例

>>> from sklearn.linear_model import ElasticNet
>>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=2, random_state=0)
>>> regr = ElasticNet(random_state=0)
>>> regr.fit(X, y)
ElasticNet(random_state=0)
>>> print(regr.coef_)
[18.83816048 64.55968825]
>>> print(regr.intercept_)
1.451...
>>> print(regr.predict([[0, 0]]))
[1.451...]
fit(X, y, sample_weight=None, check_input=True)[源代码]#

用坐标下降来匹配模型。

参数:
X{ndray,sparse matrix,sparse数组},(n_samples,n_features)

数据

请注意,大型稀疏矩阵和数组需要 int64 不接受指数。

y形状的nd数组(n_samples,)或(n_samples,n_targets)

目标如有必要,将被转换为X的d类型。

sample_weightfloat或类似数组的形状(n_samples,),默认值=None

样本重量。在内部 sample_weight 将重新缩放向总和 n_samples .

Added in version 0.23.

check_input布尔,默认=True

允许绕过多个输入检查。除非您知道自己要做什么,否则不要使用此参数。

返回:
self对象

拟合估计量。

注意到

坐标下降是一种一次考虑每列数据的算法,因此如果需要,它会自动将X输入转换为Forrester连续的numpy数组。

为了避免内存重新分配,建议直接使用该格式分配内存中的初始数据。

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请检查 User Guide 关于路由机制如何工作。

返回:
routingMetadataRequest

A MetadataRequest 封装路由信息。

get_params(deep=True)[源代码]#

获取此估计器的参数。

参数:
deep布尔,默认=True

如果为True,将返回此估计量和包含的作为估计量的子对象的参数。

返回:
paramsdict

参数名称映射到其值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[源代码]#

通过坐标下降计算弹性净路径。

弹性网络优化函数针对单输出和多输出而变化。

对于单输出任务,它是::

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务,它是::

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

地点::

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每一行的规范之和。

阅读更多的 User Guide .

参数:
X形状(n_samples,n_features)的{类数组,稀疏矩阵}

训练数据。作为Forrester连续数据直接传递,以避免不必要的内存重复。如果 y 那么是单输出 X 可以是稀疏的。

y形状(n_samples,)的{类数组,稀疏矩阵}或 (n_样本,n_目标)

目标值。

l1_ratio浮点数,默认值=0.5

0和1之间的数字传递到弹性网(在l1和l2罚分之间缩放)。 l1_ratio=1 对应于套索。

eps浮点数,默认值= 1 e-3

路径的长度。 eps=1e-3 意味着 alpha_min / alpha_max = 1e-3 .

n_alphasint,默认=100

正规化路径上阿尔法的数量。

alphas类数组,默认=无

在哪里计算模型的阿尔法列表。如果无,则自动设置alpha。

precompute“自动”、布尔或阵列状的形状 (n_features,n_features),默认='自动'

是否使用预先计算的Gram矩阵来加速计算。如果设置为 'auto' 让我们决定。Gram矩阵也可以作为参数传递。

Xy形状类似阵列(n_features,)或(n_features,n_targets), 默认值=无

Xy = np.dot(X.T,y),可以预先计算。只有在预先计算Gram矩阵时,它才有用。

copy_X布尔,默认=True

如果 True ,X将被复制;否则,可能会被覆盖。

coef_init形状类似阵列(n_features,),默认=无

系数的初始值。

verbosebool或int,默认=False

冗长的数量。

return_n_iter布尔,默认=假

是否返回迭代次数。

positive布尔,默认=假

如果设置为True,则强制系数为正。(Only前容 y.ndim == 1 ).

check_input布尔,默认=True

如果设置为False,则跳过输入验证检查(包括提供的Gram矩阵)。假设它们由呼叫者处理。

**paramskwargs

关键字参数传递给坐标下降求解器。

返回:
alphas形状的nd数组(n_alphas,)

沿着模型计算路径的阿尔法。

coefs形状的nd数组(n_features,n_alphas)或 (n_targets,n_features,n_alphas)

沿着路径的系数。

dual_gaps形状的nd数组(n_alphas,)

每个Alpha优化结束时的双重差距。

n_itersint列表

The number of iterations taken by the coordinate descent optimizer to reach the specified tolerance for each alpha. (Is returned when return_n_iter is set to True).

参见

MultiTaskElasticNet

使用L1/L2混合范数训练的多任务ElasticNet模型 作为正则化器

MultiTaskElasticNetCV

多任务L1/L2 ElasticNet,内置交叉验证。

ElasticNet

以L1和L2先验组合作为正规化器的线性回归。

ElasticNetCV

弹性网络模型,沿着规则化路径迭代匹配。

注意到

有关示例,请参阅 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py .

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[源代码]#

Predict using the linear model.

参数:
X类阵列或稀疏矩阵,形状(n_samples,n_features)

样品

返回:
C数组,形状(n_samples,)

返回预测值。

score(X, y, sample_weight=None)[源代码]#

返回预测的决定系数。

决定系数 \(R^2\) 被定义为 \((1 - \frac{u}{v})\) ,在哪里 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()\(v\) 是平方总和 ((y_true - y_true.mean()) ** 2).sum() .最好的可能分数是1.0,并且可以是负的(因为模型可以任意更差)。始终预测的期望值的恒定模型 y 如果不考虑输入功能,就会得到 \(R^2\) 评分0.0。

参数:
X形状类似阵列(n_samples,n_features)

Test samples. For some estimators this may be a precomputed kernel matrix or a list of generic objects instead with shape (n_samples, n_samples_fitted), where n_samples_fitted is the number of samples used in the fitting for the estimator.

y形状的类似阵列(n_samples,)或(n_samples,n_outputs)

真正的价值观 X .

sample_weight形状类似数组(n_samples,),默认=无

样本重量。

返回:
score浮子

\(R^2\)self.predict(X) w.r.t. y .

注意到

\(R^2\) 呼叫时使用的分数 score 在回归器上使用 multioutput='uniform_average' 从0.23版本开始,与默认值保持一致 r2_score .这影响了 score 所有多输出回归器的方法(除了 MultiOutputRegressor ).

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNet[源代码]#

请求元数据传递给 fit

请注意,此方法仅适用于以下情况 enable_metadata_routing=True (见 sklearn.set_config ).请参阅 User Guide 关于路由机制如何工作。

The options for each parameter are:

  • True :元数据被请求并传递给 fit 如果提供的话。如果未提供元数据,则会忽略请求。

  • False :未请求元数据,元估计器不会将其传递给 fit .

  • None :不请求元数据,如果用户提供元估计器,则元估计器将引发错误。

  • str :元数据应通过此给定别名而不是原始名称传递给元估计器。

默认 (sklearn.utils.metadata_routing.UNCHANGED )保留现有请求。这允许您更改某些参数的请求,而不是其他参数。

Added in version 1.3.

备注

只有当该估计器用作元估计器的子估计器时,该方法才相关,例如在 Pipeline .否则就没有效果了。

参数:
sample_weight字符串、真、假或无, 默认=sklearn.utils. metalics_Routing.UNChanged

元数据路由 sample_weight 参数 fit .

返回:
self对象

更新的对象。

set_params(**params)[源代码]#

设置此估计器的参数。

该方法适用于简单估计器以及嵌套对象(例如 Pipeline ).后者具有以下形式的参数 <component>__<parameter> 以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计参数。

返回:
self估计器实例

估计实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNet[源代码]#

请求元数据传递给 score

请注意,此方法仅适用于以下情况 enable_metadata_routing=True (见 sklearn.set_config ).请参阅 User Guide 关于路由机制如何工作。

The options for each parameter are:

  • True :元数据被请求并传递给 score 如果提供的话。如果未提供元数据,则会忽略请求。

  • False :未请求元数据,元估计器不会将其传递给 score .

  • None :不请求元数据,如果用户提供元估计器,则元估计器将引发错误。

  • str :元数据应通过此给定别名而不是原始名称传递给元估计器。

默认 (sklearn.utils.metadata_routing.UNCHANGED )保留现有请求。这允许您更改某些参数的请求,而不是其他参数。

Added in version 1.3.

备注

只有当该估计器用作元估计器的子估计器时,该方法才相关,例如在 Pipeline .否则就没有效果了。

参数:
sample_weight字符串、真、假或无, 默认=sklearn.utils. metalics_Routing.UNChanged

元数据路由 sample_weight 参数 score .

返回:
self对象

更新的对象。