Lasso#
- class sklearn.linear_model.Lasso(alpha=1.0, *, fit_intercept=True, precompute=False, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')[源代码]#
线性模型之前使用L1作为正规化器(又名Lasso)进行训练。
Lasso的优化目标是:
(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1
从技术上讲,Lasso模型正在优化与弹性网络相同的目标函数,
l1_ratio=1.0
(no L2处罚)。阅读更多的 User Guide .
- 参数:
- alphafloat,默认=1.0
乘以L1项的常数,控制规则化强度。
alpha
必须是非负浮动,即在[0, inf)
.当
alpha = 0
,目标等效于普通最小平方,由LinearRegression
object.由于数字原因,使用alpha = 0
与Lasso
不建议对象。相反,您应该使用LinearRegression
object.- fit_intercept布尔,默认=True
是否计算此模型的拦截。如果设置为False,则计算中不会使用任何拦截(即数据预计居中)。
- precompute形状的布尔或阵列状(n_features,n_features), 默认=假
是否使用预先计算的Gram矩阵来加速计算。Gram矩阵也可以作为参数传递。对于稀疏输入,此选项始终
False
以保持稀疏性。- copy_X布尔,默认=True
如果
True
,X将被复制;否则,可能会被覆盖。- max_iterint,默认=1000
最大迭代次数。
- tolfloat,默认= 1 e-4
优化的容差:如果更新小于
tol
,优化代码检查双重差距的最佳性并继续,直到它小于tol
,请参阅下面的注释。- warm_start布尔,默认=假
When set to True, reuse the solution of the previous call to fit as initialization, otherwise, just erase the previous solution. See the Glossary.
- positive布尔,默认=假
如果设置为
True
,强制系数为正。- random_stateint,RandomState实例,默认=无
选择要更新的随机要素的伪随机数生成器的种子。时使用
selection
==“随机”。传递int以获得跨多个函数调用的可重复输出。看到 Glossary .- selection'循环',',默认='循环'
如果设置为“随机”,则随机系数会在每次迭代中更新,而不是默认情况下顺序循环特征。这(设置为“随机”)通常会导致明显更快的收敛,尤其是当tol高于1 e-4时。
- 属性:
- coef_形状的nd数组(n_features,)或(n_targets,n_features)
参数载体(成本函数公式中的w)。
- dual_gap_形状的float或ndray(n_targets,)
给定参数Alpha,优化结束时的双重间隙,与y的每次观察的形状相同。
sparse_coef_
形状稀疏矩阵(n_features,1)或 (n_目标,n_特征)适合的稀疏表示
coef_
.- intercept_形状的float或ndray(n_targets,)
Independent term in decision function.
- n_iter_int或int列表
坐标下降解算器为达到指定容差而运行的迭代次数。
- n_features_in_int
期间看到的功能数量 fit .
Added in version 0.24.
- feature_names_in_ :nd形状数组 (
n_features_in_
,)nd数组形状( Names of features seen during fit. Defined only when
X
has feature names that are all strings.Added in version 1.0.
参见
lars_path
使用LARS的正规化路径。
lasso_path
使用Lasso的规则化路径。
LassoLars
使用LARS算法沿着规则化参数的Lasso路径。
LassoCV
交叉验证的Lasso alpha参数。
LassoLarsCV
Lasso least angle parameter algorithm by cross-validation.
sklearn.decomposition.sparse_encode
稀疏编码数组估计器。
注意到
用于匹配模型的算法是坐标下降。
为了避免不必要的内存重复,fit方法的X参数应直接作为Forrester连续的numpy数组传递。
正规化改进了问题的条件条件并减少了估计的方差。值越大,规范化越强。Alpha对应于
1 / (2C)
在其他线性模型中,LogisticRegression
或LinearSVC
.如果传递数组,则假定惩罚特定于目标。因此,它们必须在数量上相对应。精确的停止标准基于
tol
如下:首先,检查最大坐标更新,即 \(\max_j |w_j^{new} - w_j^{old}|\) 小于tol
乘以最大绝对系数, \(\max_j |w_j|\) .如果是,那么额外检查双间隙是否小于tol
倍 \(||y||_2^2 / n_{\text{samples}}\) .目标可以是二维数组,导致以下目标的优化:
(1 / (2 * n_samples)) * ||Y - XW||^2_F + alpha * ||W||_11
哪里 \(||W||_{1,1}\) 是矩阵系数的大小之和。不应与
MultiTaskLasso
相反,这惩罚了 \(L_{2,1}\) 系数的规范,产生系数的行稀疏性。示例
>>> from sklearn import linear_model >>> clf = linear_model.Lasso(alpha=0.1) >>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2]) Lasso(alpha=0.1) >>> print(clf.coef_) [0.85 0. ] >>> print(clf.intercept_) 0.15...
- fit(X, y, sample_weight=None, check_input=True)[源代码]#
用坐标下降来匹配模型。
- 参数:
- X{ndray,sparse matrix,sparse数组},(n_samples,n_features)
数据
请注意,大型稀疏矩阵和数组需要
int64
不接受指数。- y形状的nd数组(n_samples,)或(n_samples,n_targets)
目标如有必要,将被转换为X的d类型。
- sample_weightfloat或类似数组的形状(n_samples,),默认值=None
样本重量。在内部
sample_weight
将重新缩放向总和n_samples
.Added in version 0.23.
- check_input布尔,默认=True
允许绕过多个输入检查。除非您知道自己要做什么,否则不要使用此参数。
- 返回:
- self对象
拟合估计量。
注意到
坐标下降是一种一次考虑每列数据的算法,因此如果需要,它会自动将X输入转换为Forrester连续的numpy数组。
为了避免内存重新分配,建议直接使用该格式分配内存中的初始数据。
- get_metadata_routing()[源代码]#
获取此对象的元数据路由。
请检查 User Guide 关于路由机制如何工作。
- 返回:
- routingMetadataRequest
A
MetadataRequest
封装路由信息。
- get_params(deep=True)[源代码]#
获取此估计器的参数。
- 参数:
- deep布尔,默认=True
如果为True,将返回此估计量和包含的作为估计量的子对象的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[源代码]#
通过坐标下降计算弹性净路径。
弹性网络优化函数针对单输出和多输出而变化。
对于单输出任务,它是::
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
对于多输出任务,它是::
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
地点::
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每一行的规范之和。
阅读更多的 User Guide .
- 参数:
- X形状(n_samples,n_features)的{类数组,稀疏矩阵}
训练数据。作为Forrester连续数据直接传递,以避免不必要的内存重复。如果
y
那么是单输出X
可以是稀疏的。- y形状(n_samples,)的{类数组,稀疏矩阵}或 (n_样本,n_目标)
目标值。
- l1_ratio浮点数,默认值=0.5
0和1之间的数字传递到弹性网(在l1和l2罚分之间缩放)。
l1_ratio=1
对应于套索。- eps浮点数,默认值= 1 e-3
路径的长度。
eps=1e-3
意味着alpha_min / alpha_max = 1e-3
.- n_alphasint,默认=100
正规化路径上阿尔法的数量。
- alphas类数组,默认=无
在哪里计算模型的阿尔法列表。如果无,则自动设置alpha。
- precompute“自动”、布尔或阵列状的形状 (n_features,n_features),默认='自动'
是否使用预先计算的Gram矩阵来加速计算。如果设置为
'auto'
让我们决定。Gram矩阵也可以作为参数传递。- Xy形状类似阵列(n_features,)或(n_features,n_targets), 默认值=无
Xy = np.dot(X.T,y),可以预先计算。只有在预先计算Gram矩阵时,它才有用。
- copy_X布尔,默认=True
如果
True
,X将被复制;否则,可能会被覆盖。- coef_init形状类似阵列(n_features,),默认=无
系数的初始值。
- verbosebool或int,默认=False
冗长的数量。
- return_n_iter布尔,默认=假
是否返回迭代次数。
- positive布尔,默认=假
如果设置为True,则强制系数为正。(Only前容
y.ndim == 1
).- check_input布尔,默认=True
如果设置为False,则跳过输入验证检查(包括提供的Gram矩阵)。假设它们由呼叫者处理。
- **paramskwargs
关键字参数传递给坐标下降求解器。
- 返回:
- alphas形状的nd数组(n_alphas,)
沿着模型计算路径的阿尔法。
- coefs形状的nd数组(n_features,n_alphas)或 (n_targets,n_features,n_alphas)
沿着路径的系数。
- dual_gaps形状的nd数组(n_alphas,)
每个Alpha优化结束时的双重差距。
- n_itersint列表
The number of iterations taken by the coordinate descent optimizer to reach the specified tolerance for each alpha. (Is returned when
return_n_iter
is set to True).
参见
MultiTaskElasticNet
使用L1/L2混合范数训练的多任务ElasticNet模型 作为正则化器
MultiTaskElasticNetCV
多任务L1/L2 ElasticNet,内置交叉验证。
ElasticNet
以L1和L2先验组合作为正规化器的线性回归。
ElasticNetCV
弹性网络模型,沿着规则化路径迭代匹配。
注意到
有关示例,请参阅 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py .
示例
>>> from sklearn.linear_model import enet_path >>> from sklearn.datasets import make_regression >>> X, y, true_coef = make_regression( ... n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0 ... ) >>> true_coef array([ 0. , 0. , 0. , 97.9..., 45.7...]) >>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3) >>> alphas.shape (3,) >>> estimated_coef array([[ 0. , 0.78..., 0.56...], [ 0. , 1.12..., 0.61...], [-0. , -2.12..., -1.12...], [ 0. , 23.04..., 88.93...], [ 0. , 10.63..., 41.56...]])
- predict(X)[源代码]#
Predict using the linear model.
- 参数:
- X类阵列或稀疏矩阵,形状(n_samples,n_features)
样品
- 返回:
- C数组,形状(n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[源代码]#
返回预测的决定系数。
决定系数 \(R^2\) 被定义为 \((1 - \frac{u}{v})\) ,在哪里 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
和 \(v\) 是平方总和((y_true - y_true.mean()) ** 2).sum()
.最好的可能分数是1.0,并且可以是负的(因为模型可以任意更差)。始终预测的期望值的恒定模型y
如果不考虑输入功能,就会得到 \(R^2\) 评分0.0。- 参数:
- X形状类似阵列(n_samples,n_features)
Test samples. For some estimators this may be a precomputed kernel matrix or a list of generic objects instead with shape
(n_samples, n_samples_fitted)
, wheren_samples_fitted
is the number of samples used in the fitting for the estimator.- y形状的类似阵列(n_samples,)或(n_samples,n_outputs)
真正的价值观
X
.- sample_weight形状类似数组(n_samples,),默认=无
样本重量。
- 返回:
- score浮子
\(R^2\) 的
self.predict(X)
w.r.t.y
.
注意到
的 \(R^2\) 呼叫时使用的分数
score
在回归器上使用multioutput='uniform_average'
从0.23版本开始,与默认值保持一致r2_score
.这影响了score
所有多输出回归器的方法(除了MultiOutputRegressor
).
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') Lasso [源代码]#
请求元数据传递给
fit
法请注意,此方法仅适用于以下情况
enable_metadata_routing=True
(见sklearn.set_config
).请参阅 User Guide 关于路由机制如何工作。The options for each parameter are:
True
:元数据被请求并传递给fit
如果提供的话。如果未提供元数据,则会忽略请求。False
:未请求元数据,元估计器不会将其传递给fit
.None
:不请求元数据,如果用户提供元估计器,则元估计器将引发错误。str
:元数据应通过此给定别名而不是原始名称传递给元估计器。
默认 (
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求,而不是其他参数。Added in version 1.3.
备注
只有当该估计器用作元估计器的子估计器时,该方法才相关,例如在
Pipeline
.否则就没有效果了。- 参数:
- sample_weight字符串、真、假或无, 默认=sklearn.utils. metalics_Routing.UNChanged
元数据路由
sample_weight
参数fit
.
- 返回:
- self对象
更新的对象。
- set_params(**params)[源代码]#
设置此估计器的参数。
该方法适用于简单估计器以及嵌套对象(例如
Pipeline
).后者具有以下形式的参数<component>__<parameter>
以便可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计参数。
- 返回:
- self估计器实例
估计实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') Lasso [源代码]#
请求元数据传递给
score
法请注意,此方法仅适用于以下情况
enable_metadata_routing=True
(见sklearn.set_config
).请参阅 User Guide 关于路由机制如何工作。The options for each parameter are:
True
:元数据被请求并传递给score
如果提供的话。如果未提供元数据,则会忽略请求。False
:未请求元数据,元估计器不会将其传递给score
.None
:不请求元数据,如果用户提供元估计器,则元估计器将引发错误。str
:元数据应通过此给定别名而不是原始名称传递给元估计器。
默认 (
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求,而不是其他参数。Added in version 1.3.
备注
只有当该估计器用作元估计器的子估计器时,该方法才相关,例如在
Pipeline
.否则就没有效果了。- 参数:
- sample_weight字符串、真、假或无, 默认=sklearn.utils. metalics_Routing.UNChanged
元数据路由
sample_weight
参数score
.
- 返回:
- self对象
更新的对象。