Lasso#

class sklearn.linear_model.Lasso(alpha=1.0, *, fit_intercept=True, precompute=False, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')[源代码]#

线性模型之前使用L1作为正规化器(又名Lasso)进行训练。

Lasso的优化目标是:

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

从技术上讲,Lasso模型正在优化与弹性网络相同的目标函数, l1_ratio=1.0 (no L2处罚)。

阅读更多的 User Guide .

参数:
alphafloat,默认=1.0

乘以L1项的常数,控制规则化强度。 alpha 必须是非负浮动,即在 [0, inf) .

alpha = 0 ,目标等效于普通最小平方,由 LinearRegression object.由于数字原因,使用 alpha = 0Lasso 不建议对象。相反,您应该使用 LinearRegression object.

fit_intercept布尔,默认=True

是否计算此模型的拦截。如果设置为False,则计算中不会使用任何拦截(即数据预计居中)。

precompute形状的布尔或阵列状(n_features,n_features), 默认=假

是否使用预先计算的Gram矩阵来加速计算。Gram矩阵也可以作为参数传递。对于稀疏输入,此选项始终 False 以保持稀疏性。

copy_X布尔,默认=True

如果 True ,X将被复制;否则,可能会被覆盖。

max_iterint,默认=1000

最大迭代次数。

tolfloat,默认= 1 e-4

优化的容差:如果更新小于 tol ,优化代码检查双重差距的最佳性并继续,直到它小于 tol ,请参阅下面的注释。

warm_start布尔,默认=假

When set to True, reuse the solution of the previous call to fit as initialization, otherwise, just erase the previous solution. See the Glossary.

positive布尔,默认=假

如果设置为 True ,强制系数为正。

random_stateint,RandomState实例,默认=无

选择要更新的随机要素的伪随机数生成器的种子。时使用 selection ==“随机”。传递int以获得跨多个函数调用的可重复输出。看到 Glossary .

selection'循环',',默认='循环'

如果设置为“随机”,则随机系数会在每次迭代中更新,而不是默认情况下顺序循环特征。这(设置为“随机”)通常会导致明显更快的收敛,尤其是当tol高于1 e-4时。

属性:
coef_形状的nd数组(n_features,)或(n_targets,n_features)

参数载体(成本函数公式中的w)。

dual_gap_形状的float或ndray(n_targets,)

给定参数Alpha,优化结束时的双重间隙,与y的每次观察的形状相同。

sparse_coef_形状稀疏矩阵(n_features,1)或 (n_目标,n_特征)

适合的稀疏表示 coef_ .

intercept_形状的float或ndray(n_targets,)

Independent term in decision function.

n_iter_int或int列表

坐标下降解算器为达到指定容差而运行的迭代次数。

n_features_in_int

期间看到的功能数量 fit .

Added in version 0.24.

feature_names_in_ :nd形状数组 (n_features_in_ ,)nd数组形状(

Names of features seen during fit. Defined only when X has feature names that are all strings.

Added in version 1.0.

参见

lars_path

使用LARS的正规化路径。

lasso_path

使用Lasso的规则化路径。

LassoLars

使用LARS算法沿着规则化参数的Lasso路径。

LassoCV

交叉验证的Lasso alpha参数。

LassoLarsCV

Lasso least angle parameter algorithm by cross-validation.

sklearn.decomposition.sparse_encode

稀疏编码数组估计器。

注意到

用于匹配模型的算法是坐标下降。

为了避免不必要的内存重复,fit方法的X参数应直接作为Forrester连续的numpy数组传递。

正规化改进了问题的条件条件并减少了估计的方差。值越大,规范化越强。Alpha对应于 1 / (2C) 在其他线性模型中, LogisticRegressionLinearSVC .如果传递数组,则假定惩罚特定于目标。因此,它们必须在数量上相对应。

精确的停止标准基于 tol 如下:首先,检查最大坐标更新,即 \(\max_j |w_j^{new} - w_j^{old}|\) 小于 tol 乘以最大绝对系数, \(\max_j |w_j|\) .如果是,那么额外检查双间隙是否小于 tol\(||y||_2^2 / n_{\text{samples}}\) .

目标可以是二维数组,导致以下目标的优化:

(1 / (2 * n_samples)) * ||Y - XW||^2_F + alpha * ||W||_11

哪里 \(||W||_{1,1}\) 是矩阵系数的大小之和。不应与 MultiTaskLasso 相反,这惩罚了 \(L_{2,1}\) 系数的规范,产生系数的行稀疏性。

示例

>>> from sklearn import linear_model
>>> clf = linear_model.Lasso(alpha=0.1)
>>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2])
Lasso(alpha=0.1)
>>> print(clf.coef_)
[0.85 0.  ]
>>> print(clf.intercept_)
0.15...
fit(X, y, sample_weight=None, check_input=True)[源代码]#

用坐标下降来匹配模型。

参数:
X{ndray,sparse matrix,sparse数组},(n_samples,n_features)

数据

请注意,大型稀疏矩阵和数组需要 int64 不接受指数。

y形状的nd数组(n_samples,)或(n_samples,n_targets)

目标如有必要,将被转换为X的d类型。

sample_weightfloat或类似数组的形状(n_samples,),默认值=None

样本重量。在内部 sample_weight 将重新缩放向总和 n_samples .

Added in version 0.23.

check_input布尔,默认=True

允许绕过多个输入检查。除非您知道自己要做什么,否则不要使用此参数。

返回:
self对象

拟合估计量。

注意到

坐标下降是一种一次考虑每列数据的算法,因此如果需要,它会自动将X输入转换为Forrester连续的numpy数组。

为了避免内存重新分配,建议直接使用该格式分配内存中的初始数据。

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请检查 User Guide 关于路由机制如何工作。

返回:
routingMetadataRequest

A MetadataRequest 封装路由信息。

get_params(deep=True)[源代码]#

获取此估计器的参数。

参数:
deep布尔,默认=True

如果为True,将返回此估计量和包含的作为估计量的子对象的参数。

返回:
paramsdict

参数名称映射到其值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[源代码]#

通过坐标下降计算弹性净路径。

弹性网络优化函数针对单输出和多输出而变化。

对于单输出任务,它是::

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务,它是::

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

地点::

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每一行的规范之和。

阅读更多的 User Guide .

参数:
X形状(n_samples,n_features)的{类数组,稀疏矩阵}

训练数据。作为Forrester连续数据直接传递,以避免不必要的内存重复。如果 y 那么是单输出 X 可以是稀疏的。

y形状(n_samples,)的{类数组,稀疏矩阵}或 (n_样本,n_目标)

目标值。

l1_ratio浮点数,默认值=0.5

0和1之间的数字传递到弹性网(在l1和l2罚分之间缩放)。 l1_ratio=1 对应于套索。

eps浮点数,默认值= 1 e-3

路径的长度。 eps=1e-3 意味着 alpha_min / alpha_max = 1e-3 .

n_alphasint,默认=100

正规化路径上阿尔法的数量。

alphas类数组,默认=无

在哪里计算模型的阿尔法列表。如果无,则自动设置alpha。

precompute“自动”、布尔或阵列状的形状 (n_features,n_features),默认='自动'

是否使用预先计算的Gram矩阵来加速计算。如果设置为 'auto' 让我们决定。Gram矩阵也可以作为参数传递。

Xy形状类似阵列(n_features,)或(n_features,n_targets), 默认值=无

Xy = np.dot(X.T,y),可以预先计算。只有在预先计算Gram矩阵时,它才有用。

copy_X布尔,默认=True

如果 True ,X将被复制;否则,可能会被覆盖。

coef_init形状类似阵列(n_features,),默认=无

系数的初始值。

verbosebool或int,默认=False

冗长的数量。

return_n_iter布尔,默认=假

是否返回迭代次数。

positive布尔,默认=假

如果设置为True,则强制系数为正。(Only前容 y.ndim == 1 ).

check_input布尔,默认=True

如果设置为False,则跳过输入验证检查(包括提供的Gram矩阵)。假设它们由呼叫者处理。

**paramskwargs

关键字参数传递给坐标下降求解器。

返回:
alphas形状的nd数组(n_alphas,)

沿着模型计算路径的阿尔法。

coefs形状的nd数组(n_features,n_alphas)或 (n_targets,n_features,n_alphas)

沿着路径的系数。

dual_gaps形状的nd数组(n_alphas,)

每个Alpha优化结束时的双重差距。

n_itersint列表

The number of iterations taken by the coordinate descent optimizer to reach the specified tolerance for each alpha. (Is returned when return_n_iter is set to True).

参见

MultiTaskElasticNet

使用L1/L2混合范数训练的多任务ElasticNet模型 作为正则化器

MultiTaskElasticNetCV

多任务L1/L2 ElasticNet,内置交叉验证。

ElasticNet

以L1和L2先验组合作为正规化器的线性回归。

ElasticNetCV

弹性网络模型,沿着规则化路径迭代匹配。

注意到

有关示例,请参阅 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py .

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[源代码]#

Predict using the linear model.

参数:
X类阵列或稀疏矩阵,形状(n_samples,n_features)

样品

返回:
C数组,形状(n_samples,)

返回预测值。

score(X, y, sample_weight=None)[源代码]#

返回预测的决定系数。

决定系数 \(R^2\) 被定义为 \((1 - \frac{u}{v})\) ,在哪里 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()\(v\) 是平方总和 ((y_true - y_true.mean()) ** 2).sum() .最好的可能分数是1.0,并且可以是负的(因为模型可以任意更差)。始终预测的期望值的恒定模型 y 如果不考虑输入功能,就会得到 \(R^2\) 评分0.0。

参数:
X形状类似阵列(n_samples,n_features)

Test samples. For some estimators this may be a precomputed kernel matrix or a list of generic objects instead with shape (n_samples, n_samples_fitted), where n_samples_fitted is the number of samples used in the fitting for the estimator.

y形状的类似阵列(n_samples,)或(n_samples,n_outputs)

真正的价值观 X .

sample_weight形状类似数组(n_samples,),默认=无

样本重量。

返回:
score浮子

\(R^2\)self.predict(X) w.r.t. y .

注意到

\(R^2\) 呼叫时使用的分数 score 在回归器上使用 multioutput='uniform_average' 从0.23版本开始,与默认值保持一致 r2_score .这影响了 score 所有多输出回归器的方法(除了 MultiOutputRegressor ).

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') Lasso[源代码]#

请求元数据传递给 fit

请注意,此方法仅适用于以下情况 enable_metadata_routing=True (见 sklearn.set_config ).请参阅 User Guide 关于路由机制如何工作。

The options for each parameter are:

  • True :元数据被请求并传递给 fit 如果提供的话。如果未提供元数据,则会忽略请求。

  • False :未请求元数据,元估计器不会将其传递给 fit .

  • None :不请求元数据,如果用户提供元估计器,则元估计器将引发错误。

  • str :元数据应通过此给定别名而不是原始名称传递给元估计器。

默认 (sklearn.utils.metadata_routing.UNCHANGED )保留现有请求。这允许您更改某些参数的请求,而不是其他参数。

Added in version 1.3.

备注

只有当该估计器用作元估计器的子估计器时,该方法才相关,例如在 Pipeline .否则就没有效果了。

参数:
sample_weight字符串、真、假或无, 默认=sklearn.utils. metalics_Routing.UNChanged

元数据路由 sample_weight 参数 fit .

返回:
self对象

更新的对象。

set_params(**params)[源代码]#

设置此估计器的参数。

该方法适用于简单估计器以及嵌套对象(例如 Pipeline ).后者具有以下形式的参数 <component>__<parameter> 以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计参数。

返回:
self估计器实例

估计实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') Lasso[源代码]#

请求元数据传递给 score

请注意,此方法仅适用于以下情况 enable_metadata_routing=True (见 sklearn.set_config ).请参阅 User Guide 关于路由机制如何工作。

The options for each parameter are:

  • True :元数据被请求并传递给 score 如果提供的话。如果未提供元数据,则会忽略请求。

  • False :未请求元数据,元估计器不会将其传递给 score .

  • None :不请求元数据,如果用户提供元估计器,则元估计器将引发错误。

  • str :元数据应通过此给定别名而不是原始名称传递给元估计器。

默认 (sklearn.utils.metadata_routing.UNCHANGED )保留现有请求。这允许您更改某些参数的请求,而不是其他参数。

Added in version 1.3.

备注

只有当该估计器用作元估计器的子估计器时,该方法才相关,例如在 Pipeline .否则就没有效果了。

参数:
sample_weight字符串、真、假或无, 默认=sklearn.utils. metalics_Routing.UNChanged

元数据路由 sample_weight 参数 score .

返回:
self对象

更新的对象。