Flan-T5 avec ou sans contexte, telle est la question à choix multiples - Inria - Institut national de recherche en sciences et technologies du numérique Accéder directement au contenu
Communication Dans Un Congrès Année : 2024

Flan-T5 avec ou sans contexte, telle est la question à choix multiples

Résumé

Ce travail présente les systèmes développés par l'équipe LIUM-CREN pour l'atelier DEFT 2024. Nous avons participé à la tâche principale qui vise à inférer automatiquement les réponses correctes à des questions à choix multiples dans le domaine médical en utilisant le corpus FrenchMedMCQA. Nous avons soumis trois approches : (a) explorer l'espace de plongements afin de mettre en évidence les liens éventuels entre les questions et les réponses associées ; (b) utiliser la capacité de génération des modèles Text-To-Text tels que Flan-T5-Large pour générer les réponses correctes ; et (c) mettre en place une technique basique de Retrieval Augmented Generation (RAG) afin de fournir du contexte spécifique au modèle génératif Flan-T5-Large. Cet article vise à rapporter les résultats que nous avons obtenus et à étudier l'impact du contexte sur la capacité du Flan-T5 à inférer les réponses correctes.
Fichier non déposé

Dates et versions

hal-04635895 , version 1 (04-07-2024)

Identifiants

  • HAL Id : hal-04635895 , version 1

Citer

Elias Okat, Hugo Brochelard, Aghilas Sini, Valérie Renault, Nathalie Camelin. Flan-T5 avec ou sans contexte, telle est la question à choix multiples. 35èmes Journées d'Études sur la Parole (JEP 2024) 31ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN 2024) 26ème Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues (RECITAL 2024), Jul 2024, Toulouse, France. pp.58-69. ⟨hal-04635895⟩
0 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More