Artificial neural networks arrangements leading to knowledge extraction
Etude de la construction par réseaux neuromimétiques de représentations interprétables
Résumé
Artificial neural networks constitute good tools for certain types of
computational modeling (being potentially efficient, easy to adapt and
fast). However, they are often considered difficult to interpret, and are
sometimes treated as black boxes. However, whilst this complexity implies
that it is difficult to understand the internal organization that develops
through learning, it usually encapsulates one of the key factors for
obtaining good results. First, to yield a better understanding of how
artificial neural networks behave and to validate their use as knowledge
discovery tools, we have examined various theoretical works in order to
demonstrate the common principles underlying both certain classical
artificial neural network, and statistical methods for regression and data
analysis. Second, in light of these studies, we have explained the
specificities of some more complex artificial neural networks, such as
dynamical and modular networks, in order to exploit their respective
advantages in constructing a revised model for knowledge extraction,
adjusted to the complexity of the phenomena we want to model. The artificial
neural networks we have combined (and the subsequent model we developed)
can, starting from task data, enhance the understanding of the phenomena
modeled through analyzing and organizing the information for the task. We
demonstrate this in a practical prediction task for telecommunication, where
the general domain knowledge alone is insufficient to model the phenomena
satisfactorily. This leads us to conclude that the possibility for practical
application of our work is broad, and that our methods can combine with
those already existing in the data mining and the cognitive sciences.
Les réseaux de neurones artificiels sont de bons outils de
modélisation (efficaces, facilement adaptables et rapides) mais ils
ont la réputation d'être difficiles à interpréter et sont généralement
comparés à des boîtes noires dont il n'est pas facile de comprendre
l'organisation interne, pourtant responsable de leurs bonnes
performances. Pour obtenir une meilleure compréhension du
fonctionnement des réseaux connexionnistes et une validation de leur
utilisation en tant qu'outils d'acquisition de connaissances, nous
avons, dans un premier temps, réuni divers travaux théoriques pour
montrer les points communs existant entre certains réseaux de neurones
classiques et des méthodes statistiques de régression et d'analyses de
données. Dans un deuxième temps et à la lumière de ce qui précède,
nous avons expliqué les particularités de réseaux connexionnistes plus
complexes, tels que des réseaux dynamiques ou modulaires, afin
d'exploiter leurs avantages respectifs en concevant un nouveau modèle
d'extraction de connaissances adapté à la complexité du phénomène à
modéliser. Les réseaux connexionnistes que nous avons réunis et
interprétés et le modèle que nous avons développé peuvent, à partir
des données, enrichir la compréhension du phénomène en analysant et en
organisant les informations par rapport à la tâche à accomplir comme
nous l'illustrons à travers une application de prédiction dans le
domaine des télécommunications où la connaissance du domaine ne suffit
pas à modéliser correctement le phénomène. Les possibilités
d'application de notre travail sont donc larges et s'inscrivent dans
le cadre de la fouille de données et dans le domaine des sciences
cognitives.