Annotation d'entités cliniques en utilisant les Larges Modèles de Langue - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Conference Papers Year : 2023

Annotation d'entités cliniques en utilisant les Larges Modèles de Langue

Abstract

Dans le domaine clinique et dans d'autres domaines spécialisés, les données sont rares du fait de leur caractère confidentiel. Ce manque de données est un problème majeur lors du fine-tuning de modèles de langue.Par ailleurs, les modèles de langue de très grande taille (LLM) ont des performances prometteuses dans le domaine médical. Néanmoins, ils ne peuvent pas être utilisés directement dans les infrastructures des établissements de santé pour des raisons de confidentialité des données. Nous explorons une approche d'annotation des données d'entraînement avec des LLMs pour entraîner des modèles de moins grandes tailles mieux adaptés à notre problématique. Cette méthode donne des résultats prometteurs pour des tâches d'extraction d'information
Fichier principal
Vignette du fichier
479291.pdf (312.82 Ko) Télécharger le fichier
Origin : Publisher files allowed on an open archive

Dates and versions

hal-04130197 , version 1 (20-06-2023)

Licence

Attribution

Identifiers

  • HAL Id : hal-04130197 , version 1

Cite

Simon Meoni, Théo Ryffel, Eric De La Clergerie. Annotation d'entités cliniques en utilisant les Larges Modèles de Langue. 18e Conférence en Recherche d'Information et Applications -- 16e Rencontres Jeunes Chercheurs en RI -- 30e Conférence sur le Traitement Automatique des Langues Naturelles -- 25e Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues, Jun 2023, Paris, France. pp.190-203. ⟨hal-04130197⟩
80 View
26 Download

Share

Gmail Facebook X LinkedIn More