The Iso-lambda Descent Algorithm for the LASSO - Inria - Institut national de recherche en sciences et technologies du numérique
Communication Dans Un Congrès Année : 2010

The Iso-lambda Descent Algorithm for the LASSO

Résumé

Following the introduction by Tibshirani of the LASSO technique for feature selection in regression, two algorithms were proposed by Osborne et al. for solving the associated problem. One is an homotopy method that gained popularity as the LASSO modification of the LARS algorithm. The other is a finite-step descent method that follows a path on the constraint polytope, and seems to have been largely ignored. One of the reason may be that it solves the constrained formulation of the LASSO, as opposed to the more practical regularized formulation. We give here an adaptation of this algorithm that solves the regularized problem, has a simpler formulation, and outperforms state-of-the-art algorithms in terms of speed.

Domaines

Apprentissage [cs.LG] Calcul [stat.CO]
Fichier principal
Vignette du fichier
iso-lambda_descent.pdf (150.15 Ko) Télécharger le fichier
README (2.12 Ko) Télécharger le fichier
Speed_trials/xp.c (3.42 Ko) Télécharger le fichier
common.h (1.7 Ko) Télécharger le fichier
lasso.h (1.18 Ko) Télécharger le fichier
lasso_ccd.c (3.67 Ko) Télécharger le fichier
lasso_descent.c (5.29 Ko) Télécharger le fichier
lasso_homotopy.c (5.14 Ko) Télécharger le fichier
options.c (11.51 Ko) Télécharger le fichier
options.h (963 B) Télécharger le fichier
rand.c (925 B) Télécharger le fichier
rand.h (676 B) Télécharger le fichier
seq_ls.c (5.3 Ko) Télécharger le fichier
seq_ls.h (2.68 Ko) Télécharger le fichier
sparse_vector.c (1.25 Ko) Télécharger le fichier
sparse_vector.h (591 B) Télécharger le fichier
timer.c (806 B) Télécharger le fichier
timer.h (282 B) Télécharger le fichier
verbosity.c (1.03 Ko) Télécharger le fichier
verbosity.h (442 B) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre
Format Autre

Manuel Loth  : Connectez-vous pour contacter le contributeur

https://inria.hal.science/inria-00508257

Soumis le : lundi 2 août 2010-16:35:48

Dernière modification le : mercredi 13 novembre 2024-16:28:02

Archivage à long terme le : mardi 23 octobre 2012-11:57:10

Télécharger pour visualiser

Dates et versions

inria-00508257 , version 1 (02-08-2010)
inria-00508257 , version 2 (06-09-2010)

Identifiants

  • HAL Id : inria-00508257 , version 1

Citer

Manuel Loth, Philippe Preux. The Iso-lambda Descent Algorithm for the LASSO. 17th International Conference on Neural Information Processing, Nov 2010, Sidney, Australia. ⟨inria-00508257v1⟩

Exporter

BibTeX XML-TEI Dublin Core DC Terms EndNote DataCite

Collections

LIFL
414 Consultations
357 Téléchargements

Partager

More