Réduction itérative du biais pour des lisseurs multivariés
Abstract
La méthode IBR (iterated biased reduction) permet d'estimer une fonction de régression $m$ inconnue lorsque les variables explicatives sont à valeurs dans $\mathbbR^d$. Pour estimer la fonction $m$, les méthodes non-paramétriques classiques souffrent du fléau de la dimension. En pratique, il faut donc supposer des hypothèses structurelles: modèles additifs, modèles à directions révélatrices... A contrario IBR estime directement la fonction de régression $m$. Elle concurrence MARS, les directions révélatrices ou les modèles additifs et sur des exemples réels ou simulés et elle apporte des gains significatifs sur l'erreur de prévision. Cette méthode utilise en pratique un lisseur pilote soit de type splines plaque-minces soit de type noyau gaussien. Cet estimateur pilote est utilisé de manière répétée afin d'estimer le biais et permet de l'enlever progressivement. La méthode, à l'instar du $L_2$ boosting, nécessite donc l'estimation de l'itération optimale. Des résultats de vitesse de convergence (vitesse minimax) de l'erreur quadratique moyenne de l'estimateur (avec itération optimale) ont été obtenus. L'optimalité du critère de choix de l'itération (GCV) a aussi été démontré. Un exemple simulé simple ($d=2$) et un exemple réel ($d=8$) seront traités et comparés aux méthodes existantes: GAM, MARS, PPR, ou $L_2$-boosting. Un package \textsfR disponible sur le CRAN permet d'utiliser cette méthode très simplement.
Origin : Files produced by the author(s)
Loading...