Mitigating Unintended Bias in Masked Language Models - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Master Thesis Year : 2021

Mitigating Unintended Bias in Masked Language Models

Atténuation des biais involontaires dans les modèles de langage masqué

Abstract

Algorithmic fairness is currently one of the most debated topics in artificial intelligence. Primarily because of its massive importance and critical impact on various aspects of human lives. One of its highly discussed drawbacks is the unintended bias we observe in complex machine learning models, and that carries adverse effects on various fields ranging from healthcare to legal policing. This work focused on devising novel methodologies for mitigating unintended bias found in language models. Our work mainly concerned the gender bias associated with occupations. However, it can be extended to other kinds such as demographic, racial, etc. As the definition of bias is subjective and varies case by case, it is challenging to measure and reduce biases in pre-trained language models. This work proposes an advanced architecture based on Deep Reinforcement Learning to mitigate unintended bias in pre-trained language models. The proposed architecture tackles withstanding challenges without compromising performance and defines a system that is portable and easy to adapt. The thesis is organised as follows. After defining the problem statement in Chapter 1, we lay down the pre-requisites required for this study in Chapter 2. In the following two chapters, we detail the proposed architecture and the experimental setup used for evaluation. Chapter 5 comprises a discussion based on the results and possible explanations of the model’s behaviour. Finally, in Chapter 6, we discuss the limitations as well as promising perspectives for future work.
L'équité algorithmique est actuellement l'un des sujets les plus débattus en intelligence artificielle. Principalement en raison de son importance énorme et de son impact critique sur divers aspects de la vie humaine. L'un de ses inconvénients très discutés est le biais involontaire que nous observons dans les modèles complexes d'apprentissage automatique, et qui a des effets néfastes sur divers domaines allant des soins de santé à la police judiciaire. Ce travail s'est concentré sur la conception de nouvelles méthodologies pour atténuer les biais involontaires trouvés dans les modèles de langage. Nos travaux ont porté principalement sur les préjugés sexistes associés aux professions. Cependant, il peut être étendu à d'autres types tels que démographiques, raciaux, etc. Comme la définition du biais est subjective et varie au cas par cas, il est difficile de mesurer et de réduire les biais dans les modèles linguistiques pré-formés. Ce travail propose une architecture avancée basée sur l'apprentissage par renforcement profond pour atténuer les biais involontaires dans les modèles de langage pré-entraînés. L'architecture proposée relève les défis sans compromettre les performances et définit un système portable et facile à adapter. La thèse est organisée comme suit. Après avoir défini l'énoncé du problème au chapitre 1, nous posons les pré-requis nécessaires à cette étude au chapitre 2. Dans les deux chapitres suivants, nous détaillons l'architecture proposée et le montage expérimental utilisé pour l'évaluation. Le chapitre 5 comprend une discussion basée sur les résultats et les explications possibles du comportement du modèle. Enfin, dans le chapitre 6, nous discutons des limites ainsi que des perspectives prometteuses pour des travaux futurs.
Fichier principal
Vignette du fichier
IDMC_thesis.pdf (3.33 Mo) Télécharger le fichier
Origin Files produced by the author(s)

Dates and versions

hal-03363353 , version 1 (10-10-2021)

Identifiers

  • HAL Id : hal-03363353 , version 1

Cite

Mohammed Rameez Rameez Qureshi. Mitigating Unintended Bias in Masked Language Models. Computer Science [cs]. 2021. ⟨hal-03363353⟩
159 View
248 Download

Share

Gmail Mastodon Facebook X LinkedIn More