Judith Le Roy
Explicabilité et IA de confiance
M2 Mathématiques & IA | Université Paris-Saclay | Stage LIP6
(elle/she)
Email | LinkedIn | GitHub | CV
Profil
Étudiante en M2 Mathématiques & IA à l’Université Paris-Saclay, je travaille sur l’explicabilité des systèmes d’IA (XAI) avec un intérêt particulier pour les méthodes d’audit inter-modèles, la robustesse, et les garanties formelles applicables aux systèmes critiques. Je cherche à poursuivre en thèse à partir d’octobre 2026 sur ces questions, dans un environnement de recherche appliquée à fort enjeu d’intérêt général (santé, éducation, IA de confiance, recherche publique).
Recherche actuelle
Stage M2 — Explicabilité Inter-Modèles pour l’IA Éducative
LIP6, Sorbonne Université | Avril – Septembre 2026
Encadrement : Marie-Jeanne Lesot (LFI) et Sébastien Lallé (MOCAH)
Développement de méthodes XAI model-agnostic pour analyser les disparités entre modèles d’IA prédisant le même phénomène (réseaux Bayésiens vs. réseaux de neurones profonds). Application au student modeling en AIED.
Contributions visées :
- Revue de littérature sur l’XAI inter-modèles, un domaine émergent à l’intersection de l’audit algorithmique et de l’IA de confiance
- Framework open-source d’audit de cohérence multi-modèles
- Méthodes pour quantifier et expliquer les désaccords entre modèles hétérogènes prédisant la même cible
Projets de recherche antérieurs
Stage M1 — Framework HMM pour ADN ancien dégradé
LISN, Université Paris-Saclay | 2025
Face aux limitations des outils existants (Admixfrog, DAISEG), conception d’une pipeline de génération de datasets synthétiques avec paramètres de dégradation contrôlés. Framework permettant la validation robuste d’algorithmes probabilistes sur données génomiques bruitées — un travail directement transposable aux enjeux d’évaluation et de certification de modèles ML en contexte adverse.
Formation
M2 Mathématiques & Intelligence Artificielle (2025-26)
Université Paris-Saclay
Cours : Probabilistic Generative Models, Sequential Learning, Aspects théoriques du Deep Learning
M1 Mathématiques & IA (2024-25)
Université Paris-Saclay | Mention Assez Bien
Spécialisation : apprentissage supervisé/non-supervisé, deep learning, optimisation
CPGE B/L (2019-22)
Lycée Janson de Sailly | Lycée Henri IV
16/20 au concours ENS en mathématiques
Axes de recherche
- Explicabilité inter-modèles — cohérence, audit et comparaison de systèmes d’IA hétérogènes prédisant le même phénomène
- IA de confiance — robustesse, garanties formelles, transparence des décisions algorithmiques, méthodes vérifiables
- Applications critiques d’intérêt général — santé, éducation, recherche publique, systèmes à fort enjeu de fiabilité
Compétences techniques
Machine Learning & XAI
PyTorch, Scikit-learn, modèles Bayésiens, HMM, Transformers, méthodes XAI (SHAP, LIME, méthodes par prototypes)
Programmation & Outils
Python (avancé), R, SQL, Git/GitHub, LaTeX, calcul distribué (Slurm)
Mathématiques
Probabilités avancées, optimisation, traitement du signal, statistiques inférentielles
Publications & Communications
(Section en préparation — Stage M2 en cours)