S-LIME : reconcilier localité et fidélité des explications linéaires - Inria - Institut national de recherche en sciences et technologies du numérique
Communication Dans Un Congrès Année : 2022

S-LIME : reconcilier localité et fidélité des explications linéaires

Résumé

L’avantage de la localité est l’une des principales prémisses de LIME, l’une des méthodes les plus importantes pour expliquer les modèles d’apprentissage automatique de type boîte noire. Cet angle d’attaque repose sur le postulat que plus nous exa- minons localement le voisinage d’une instance, plus le modèle de boîte noire devient simple et plus nous pouvons l’imiter avec précision à l’aide d’un substitut linéaire. Aussi logique que cela puisse paraître, nos résultats suggèrent que, avec la conception actuelle de LIME, le modèle de substitution peut dégénérer lorsque l’explication est trop locale, c’est-à-dire lorsque le paramètre de largeur de bande σ tend vers zéro. Sur la base de cette observation, la contribution de cet article est double. Premièrement, nous étudions l’impact de la bande passante et du voisinage d’apprentissage sur la fidélité et la sémantique des explications LIME. Deuxièmement, et sur la base de nos résultats, nous proposons S-LIME, une extension de LIME qui réconcilie fidélité et localité.
Fichier non déposé

Dates et versions

hal-03741047 , version 1 (02-08-2022)

Licence

Identifiants

  • HAL Id : hal-03741047 , version 1

Citer

Romaric Gaudel, Luis Galárraga, Julien Delaunay, Laurence Roze, Vaishnavi Bhargava. S-LIME : reconcilier localité et fidélité des explications linéaires. CAP - RFIAP 2022 - Conférence française sur l'apprentissage machine - Reconnaissance de formes, Images, Apprentissage et Perception, Jul 2022, Vannes, France. ⟨hal-03741047⟩
101 Consultations
1 Téléchargements

Partager

More