Résumé

Ma thèse a consisté à quantifier, qualifier et réduire l'iniquité algorithmique issue des modèles d’apprentissage automatique. En éducation, de tels modèles sont utilisés dans le but d'améliorer l’expérience d’apprentissage humain (e.g., prédire le décrochage scolaire, personnaliser les contenus pédagogiques). Or, ces modèles fondés sur les données présentent des biais, souvent en défaveur de groupes historiquement défavorisés. Ainsi, j'ai conçu une mesure interprétable, MADD, pour approfondir l'évaluation de ces iniquités. De plus, j'ai développé une méthode de réduction de l’iniquité utilisant la MADD, ainsi que de nouvelles méthodes d’évaluation pour prendre en compte ce qu'on appelle les "discriminations intersectionnelles". Des expériences menées dans divers contextes éducatifs et démographiques (Afrique, Philippines, Haïti, Royaume-Uni, France) ont permis de révéler des iniquités algorithmiques non détectées par les méthodes existantes. Enfin, une librairie Python, maddlib, a été créée pour utiliser toutes ces méthodes facilement.

Bio

Depuis fin 2024, Mélina Verger est docteure en informatique de Sorbonne Université. De formation ingénieure, elle s’oriente en 2021 dans la recherche en IA en poursuivant un Master 2 (parcours international) de l’Université Paris-Saclay. Dès lors, ses recherches examinent si, et de quelles manières, l'IA peut soutenir l'apprentissage humain. Pendant sa thèse, ses travaux se sont notamment concentrés sur la découverte, la mesure, la caractérisation et la réduction d'iniquité algorithmique issue des modèles d'IA utilisés dans des contextes éducatifs. Site web : https://melinaverger.github.io/ Contact : melina.verger@lip6.fr