D’un agent intelligent plongé dans le monde, nous attendons à la fois qu’il comprenne, et interagisse avec son environement. La compréhension du monde environnant requiert typiquement l’assimilation de séquences de stimulations sensorielles diverses. Interagir avec l’environnement requiert d’être capable d’adapter son comportement dans le but d’atteindre un objectif fixé, ou de maximiser une notion de récompense. Cette vision bipartite de l’interaction agent-environnement motive les deux parties de cette thèse : les réseaux de neurone récurrents sont des outils puissants pour traiter des signaux mul- timodaux, comme ceux résultants de l’interaction d’un agent avec son environnement, et l’apprentissage par renforcement et le domaine privilégié pour orienter le comportement d’un agent en direction d’un but. Cette thèse a pour but d’apporter des contributions théoriques et pratiques dans ces deux champs. Dans le domaine des réseaux récurrents, les contributions de cette thèse sont doubles : nous introduisons deux nouveaux algo- rithmes d’apprentissage de réseaux récurrents en ligne, théoriquement fondés, et passant à l’échelle. Par ailleurs, nous approfondissons les connaissances sur les réseaux récurrents à portes, en analysant leurs propriétés d’invariance. Dans le domaine de l’apprentissage par renforcement, notre contribution principale est de proposer une méthode pour robus- tifier les algorithmes existant par rapport à la discrétisation temporelle. Toutes ces con- tributions sont motivées théoriquements, et soutenues par des éléments expérimentaux.