Only Relevant Information Matters: Filtering Out Noisy Samples to Boost RL - Inria - Institut national de recherche en sciences et technologies du numérique
Communication Dans Un Congrès Année : 2020

Only Relevant Information Matters: Filtering Out Noisy Samples to Boost RL

Résumé

In reinforcement learning, policy gradient algorithms optimize the policy directly and rely on sampling efficiently an environment. Nevertheless, while most sampling procedures are based on direct policy sampling, self-performance measures could be used to improve such sampling prior to each policy update. Following this line of thought, we introduce SAUNA, a method where non-informative transitions are rejected from the gradient update. The level of information is estimated according to the fraction of variance explained by the value function: a measure of the discrepancy between V and the empirical returns. In this work, we use this metric to select samples that are useful to learn from, and we demonstrate that this selection can significantly improve the performance of policy gradient methods. In this paper: (a) We define SAUNA's metric and introduce its method to filter transitions. (b) We conduct experiments on a set of benchmark continuous control problems. SAUNA significantly improves performance. (c) We investigate how SAUNA reliably selects samples with the most positive impact on learning and study its improvement on both performance and sample efficiency.

Domaines

Apprentissage [cs.LG] Machine Learning [stat.ML] Intelligence artificielle [cs.AI]
Fichier principal
Vignette du fichier
vex.pdf (1.67 Mo) Télécharger le fichier
Gym/HalfCheetah.pdf (35.02 Ko) Télécharger le fichier
Gym/Hopper.pdf (36.63 Ko) Télécharger le fichier
Gym/InvertedDoublePendulum-nofilter.pdf (51.81 Ko) Télécharger le fichier
Gym/InvertedDoublePendulum.pdf (38.02 Ko) Télécharger le fichier
Gym/InvertedPendulum-nofilter.pdf (52.57 Ko) Télécharger le fichier
Gym/InvertedPendulum.pdf (37.87 Ko) Télécharger le fichier
Gym/Reacher-nofilter.pdf (51.71 Ko) Télécharger le fichier
Gym/Reacher.pdf (37.94 Ko) Télécharger le fichier
Gym/Swimmer.pdf (32.99 Ko) Télécharger le fichier
Gym/frames.png (328.32 Ko) Télécharger le fichier
Roboschool/RoboschoolHumanoidFlagrunHarder-v1-128actors.pdf (39.59 Ko) Télécharger le fichier
Roboschool/RoboschoolHumanoidFlagrunHarder-v1-512-256-128.pdf (37.76 Ko) Télécharger le fichier
Roboschool/RoboschoolHumanoidFlagrunHarder-v1-64-64.pdf (36.4 Ko) Télécharger le fichier
figures/grad-first.png (30.22 Ko) Télécharger le fichier
figures/grad-last.png (28.37 Ko) Télécharger le fichier
figures/graph-vex.png (908.26 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Yannis Flet-Berliac  : Connectez-vous pour contacter le contributeur

https://inria.hal.science/hal-02091547

Soumis le : mercredi 13 mai 2020-11:55:46

Dernière modification le : mercredi 13 novembre 2024-16:28:08

Télécharger pour visualiser

Dates et versions

hal-02091547 , version 1 (08-04-2019)
hal-02091547 , version 2 (10-04-2019)
hal-02091547 , version 3 (24-09-2019)
hal-02091547 , version 4 (25-09-2019)
hal-02091547 , version 5 (13-05-2020)
hal-02091547 , version 6 (20-11-2020)

Identifiants

  • HAL Id : hal-02091547 , version 5

Citer

Yannis Flet-Berliac, Philippe Preux. Only Relevant Information Matters: Filtering Out Noisy Samples to Boost RL. IJCAI 2020 - International Joint Conference on Artificial Intelligence, Jul 2020, Yokohama, Japan. ⟨hal-02091547v5⟩

Exporter

BibTeX XML-TEI Dublin Core DC Terms EndNote DataCite
383 Consultations
882 Téléchargements

Partager

More