Reservoir Computing : traitement efficace de séries temporelles avec ReservoirPy
Résumé
De la météo au langage, extraire l'information de flux de données est un enjeu primordial en Intelligence Artificielle. Le Reservoir Computing (RC) est particulièrement adapté pour bien prendre en compte ces dynamiques temporelles. C'est un paradigme d'apprentissage automatique sur des données séquentielles où un réseau de neurones artificiel n'est que partiellement entrainé. Un des intérêts majeurs de ces réseaux de neurones récurrents est leur coût computationnel réduit et la possibilité d'apprendre aussi bien "en-ligne" que "horsligne". Leurs applications sont très variées, qu'il s'agisse de prédiction/génération de séries chaotiques ou de discrimination de séquences audio, comme la reconnaissance de chants d'oiseaux. Nous verrons les aspects théoriques du RC : comment ce "réservoir de calculs" fonctionne grâce à des projections aléatoires en grandes dimensions, et s'apparente ainsi à des Machines à Vecteurs Supports (SVM) temporelles. Nous présenterons également ReservoirPy : une bibliothèque Python à la fois simple et efficace basée sur la pile logicielle scientifique de Python (Numpy, Scipy, Matplotlib). ReservoirPy met l'accent sur les Echo State Networks (ESN), l'instance la plus connue de RC. Elle permet la conception d'architectures développées dans la littérature, allant des plus classiques aux plus complexes. ReservoirPy embarque plusieurs règles d'apprentissage (online et offline), une implémentation distribuée de l'entraînement des ESN, la possibilité de créer des réseaux hiérarchiques comportant des boucles de feedback complexes, et des outils d'aide à l'optimisation des hyperparamètres. La documentation, des tutoriels, des exemples et des jeux de données sont disponibles sur la page GitHub de ReservoirPy : github.com/reservoirpy
Fichier principal
TrouvainHinaut2022-ReservoirPy-Dataquitaine.pdf (148.68 Ko)
Télécharger le fichier
Origine | Fichiers produits par l'(les) auteur(s) |
---|