Améliorer la traduction au niveau du document grâce au sur-echantillage négatif et au masquage ciblé - Inria - Institut national de recherche en sciences et technologies du numérique
Conference Papers Year : 2024

Améliorer la traduction au niveau du document grâce au sur-echantillage négatif et au masquage ciblé

Abstract

Ces travaux visent à améliorer les capacités des systèmes de traduction automatique à tenir compte du contexte dans lequel se trouve la phrase source, et donc, ultimement, à améliorer les performances globales des systèmes de traduction automatique. L’approche que nous proposons repose uniquement sur les données et la manière dont elles sont fournies au modèle durant l’entraînement et est complètement agnostique de l’architecture du modèle. Nous montrons que les performances des modèles de traduction, sur la paire en-fr, peuvent être améliorées simplement en fournissant des données plus pertinentes vis-à-vis de la tâche cible, et ce sans modifier ni complexifier les architectures existantes, en particulier l’architecture Transformer couramment utilisée par les systèmes de TAL modernes. Pour ce faire, nous présentons deux stratégies d’augmentation de données (sur-échantillonnage négatif et masquage ciblé) conçues pour inciter le modèle à s’appuyer sur le contexte. Nous montrons, au travers de métriques appropriées, que ces méthodes permettent d’améliorer les performances des systèmes de traduction sans pour autant modifier ni l’architecture du modèle, ni le processus d’entraînement.
Fichier principal
Vignette du fichier
2462.pdf (175.36 Ko) Télécharger le fichier
Origin Publisher files allowed on an open archive

Dates and versions

hal-04623023 , version 1 (01-07-2024)

Licence

Identifiers

  • HAL Id : hal-04623023 , version 1

Cite

Gaëtan Caillaut, Mariam Nakhlé, Jingshu Liu, Raheel Qader. Améliorer la traduction au niveau du document grâce au sur-echantillage négatif et au masquage ciblé. 35èmes Journées d'Études sur la Parole (JEP 2024) 31ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN 2024) 26ème Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues (RECITAL 2024), Jul 2024, Toulouse, France. pp.295-306. ⟨hal-04623023⟩
50 View
62 Download

Share

More