Judith Le Roy
Machine learning, audit algorithmique et intérêt général
M2 Mathématiques & IA | Université Paris-Saclay | Stage LIP6
(elle/she)
Email | LinkedIn | GitHub | CV
J’ai passé les dernières années à apprendre comment fonctionnent les systèmes d’IA. Ce qui m’intéresse aujourd’hui, c’est ce qu’ils font aux gens : qui ils classent, qui ils orientent, qui ils laissent de côté, et si quelqu’un, quelque part, est en mesure de leur demander des comptes.
Je termine un M2 Mathématiques & IA à l’Université Paris-Saclay. Après un parcours d’abord tourné vers la recherche, je cherche quelque chose de plus concret et de plus collectif : mettre mes compétences en machine learning au service de décisions qui engagent des gens, et le faire avec d’autres gens.
Ce que je cherche#
Un rôle technique et situé, où les modèles ne sont pas une fin en soi mais un moyen d’agir sur des décisions qui comptent, à partir de l’automne 2026.
Ça peut vouloir dire de l’audit et de la responsabilité algorithmique : évaluer, contrôler et expliquer des systèmes d’IA déployés, y repérer les biais, les angles morts et les défaillances. Ça peut vouloir dire de l’IA de confiance appliquée, c’est-à-dire de la robustesse, de la transparence et des garanties vérifiables pour des systèmes à fort enjeu, dans un cadre opérationnel plutôt que théorique. Et ça peut vouloir dire du ML d’intérêt général, en mettant des compétences quantitatives au service d’organisations publiques, associatives ou de mission, sur des sujets comme la santé, l’éducation ou la régulation de l’IA.
Ce qui compte pour moi, dans tous les cas : des missions concrètes et régulières, une équipe, et le sentiment que le travail sert à quelque chose.
Ce que j’écris#
C’est souvent en écrivant que je réfléchis à ces questions, plus honnêtement, parfois, que dans un cadre académique.
Tout est ici
Expérience actuelle#
Stage M2, audit et explicabilité de systèmes d’IA#
LIP6, Sorbonne Université | Avril à septembre 2026
Encadrement : Marie-Jeanne Lesot (LFI) et Sébastien Lallé (MOCAH)
Je développe des méthodes d’explicabilité model-agnostic pour comparer des modèles qui prédisent le même phénomène (réseaux bayésiens contre réseaux de neurones profonds) et rendre lisibles leurs désaccords. L’application concerne le student modeling dans l’IA éducative, un contexte où la prédiction d’un modèle peut orienter le parcours réel d’un élève. Le travail produit un framework open-source d’audit de cohérence entre modèles hétérogènes, des méthodes pour quantifier et expliquer leurs désaccords, et une revue de l’état de l’art sur l’audit inter-modèles, à la croisée de l’audit algorithmique et de l’IA de confiance.
Projets antérieurs#
Stage M1, validation robuste d’algorithmes sur ADN ancien dégradé#
LISN, Université Paris-Saclay | 2025
Face aux limites des outils existants (Admixfrog, DAISEG), j’ai conçu une pipeline de génération de jeux de données synthétiques aux paramètres de dégradation contrôlés, pour tester rigoureusement des algorithmes probabilistes sur des données génomiques bruitées. C’était un travail d’ingénierie autant que de méthode : construire les outils qui permettent de savoir si un modèle tient vraiment ses promesses.
Code GitHub
M2 Mathématiques & Intelligence Artificielle (2025-26)
Université Paris-Saclay
Cours : Probabilistic Generative Models, Sequential Learning, Aspects théoriques du Deep Learning
M1 Mathématiques & IA (2024-25)
Université Paris-Saclay | Mention Assez Bien
Spécialisation : apprentissage supervisé/non-supervisé, deep learning, optimisation
CPGE B/L (2019-22)
Lycée Janson de Sailly | Lycée Henri IV
16/20 au concours ENS en mathématiques
Compétences techniques#
Machine Learning & XAI
PyTorch, Scikit-learn, modèles bayésiens, HMM, Transformers, méthodes XAI (SHAP, LIME, méthodes par prototypes)
Programmation et outils
Python (avancé), R, SQL, Git/GitHub, LaTeX, calcul distribué (Slurm)
Mathématiques
Probabilités avancées, optimisation, traitement du signal, statistiques inférentielles
Cyborgologie#
Si je devais relier tout ça, ce serait par la figure du cyborg de Donna Haraway, cette créature qui refuse les frontières propres entre l’humain et la machine, le donné et le construit, et qui en fait une position habitable plutôt qu’un problème à résoudre. C’est le fil qui court sous mes centres d’intérêt, de la musique électronique à la justice algorithmique en passant par la philosophie.
« Ce que nous sommes n’est pas la conséquence inévitable d’une nature, mais le produit d’une oppression. Et nous ne pouvons sortir de cette catégorie qu’en la détruisant. » — Monique Wittig, La Pensée straight (1980)
Les amulettes Je collectionne les femmes puissantes. J’enregistre des edits sur Instagram, je garde des chansons qui me font marcher droit, j’écoute en boucle certaines scènes de séries et de films. Avant je les regardais comme on regarde un saint au plafond d’une chapelle, en me disant sois comme elle sans vraiment croire que je pouvais l’être. Maintenant je sais que je peux. La différence est immense, et toute la transition tient dans cet écart.
...
« Le nettoyage de la science bourgeoise présuppose l’assimilation de la science bourgeoise, et non sa critique sauvage ou de creuses condamnations. » — Léon Trotsky, Culture et socialisme, 1926
Le retour du spectre En 1993, Jacques Derrida publie Spectres de Marx. Derrida est le fondateur de ce qu’on appelle la « déconstruction », une méthode philosophique née dans les années 1960 qui consiste à analyser les oppositions structurantes d’un discours (parole/écriture, nature/culture, masculin/féminin) pour montrer qu’elles ne sont pas naturelles mais construites, et que l’un des termes domine toujours l’autre. La déconstruction a exercé une influence considérable sur les sciences humaines, les études littéraires, les études de genre et la théorie queer, au point de devenir une référence centrale de ce qu’on appelle, souvent de façon imprécise, le « post-structuralisme ». Derrida lui-même n’est pas marxiste. Mais en 1993, dans un contexte de victoire idéologique du libéralisme (le mur de Berlin est tombé, Fukuyama a décrété la fin de l’histoire, le marxisme est déclaré mort), il pose un geste décisif : le spectre revient précisément parce qu’on l’a déclaré mort. C’est le propre des spectres. Plus on s’acharne à les exorciser, plus ils insistent.
...
« La colère des femmes est riche d’informations et d’énergie. Focalisée avec précision, elle peut devenir une source d’énergie puissante au service du progrès et du changement. » — Audre Lorde, The Uses of Anger (1981)
Lorde dit que la colère est chargée d’informations. Je veux écrire sur ce qu’elle m’a transmis : non pas son dépassement héroïque, non pas sa conversion en vertu militante, mais ce qu’elle dit sur le monde, et ce qu’elle a failli me coûter quand je n’ai pas su l’entendre.
...
« La philosophie des époques de déclin est toujours aussi leur apologie. » — Georg Lukács, Histoire et conscience de classe (1923)
Le succès d’un désespoir Le Problème à trois corps de Liu Cixin est devenu un phénomène mondial. Le roman est célébré dans les milieux scientifiques et technologiques, recommandé par Barack Obama, et adapté par Netflix. On y salue l’ampleur cosmique, la rigueur scientifique, l’ambition formelle. Pour beaucoup, il s’agirait d’une œuvre lucide, débarrassée des illusions humanistes.
...
« La misère religieuse est tout à la fois l’expression de la misère réelle et la protestation contre la misère réelle. » — Karl Marx, Contribution à la critique de la philosophie du droit de Hegel, 1844
Shabbat Pendant un an, j’ai fréquenté la synagogue chaque shabbat. J’assistais aux offices, aux cours de judaïsme, j’apprenais l’hébreu. Je me préparais à la conversion avec le sérieux de quelqu’un qui a trouvé sa place. Je me souviens de ce que je ressentais : une certitude. Quelque chose s’était résolu.
...
« Visibility is a trap; it summons surveillance and the law; it provokes voyeurism, fetishism, the colonialist/imperial appetite for possession. Yet it retains a certain political appeal. » — Peggy Phelan, Unmarked: The Politics of Performance
En Novembre, je me suis recréé un compte TikTok avec pour ambition de documenter ma transition. Un jour je poste une vidéo d’outfit. Une journée après j’avais reçu plus de trois cents commentaires, majoritairement des hommes avec des photos de profil en voiture, qui expliquent que je suis malade, que mes parents ont raté quelque chose et autres joyeusetés.
...
« Le libre développement de chacun est la condition du libre développement de tous. » — Karl Marx & Friedrich Engels, Le Manifeste du Parti communiste
L’ordre des termes dans cette phrase du Manifeste n’est pas anodin. Marx ne dit pas que le collectif produit le singulier. Il dit l’inverse. C’est une formule anti-totalitaire dans sa structure même. Mais c’est aussi une formule anti-libérale, parce que ce “libre développement” n’est pas le self-made man. Il a des conditions. Il dépend des autres.
...
Je suis un homme de grande impatience. J’ai pris de la mescaline pour me réduire. » — Henri Michaux, Misérable miracle, 1956
La même molécule Un cadre tech de San Francisco microdose du LSD avant sa réunion. Il appelle ça de l’optimisation cognitive. Un jeune homme noir de Saint-Denis se fait contrôler avec trois grammes de cannabis. Il finit en garde à vue.
Même geste et deux destins.
La drogue n’existe pas comme catégorie stable. Ce qui existe, ce sont des usages. Des corps autorisés à se modifier et des corps criminalisés pour la même chose.
...
« Tout ce qui était solidement établi se volatilise, tout ce qui était sacré est profané, et les hommes sont enfin forcés de considérer d’un œil désillusionné leur position dans la vie, leurs relations réciproques. » — Karl Marx & Friedrich Engels, Le Manifeste du Parti communiste
Il y a une chanson de SOPHIE qui s’appelle Take Me to Dubai. Je l’écoute en boucle et je ne sais pas quoi en faire. Dubai : ville du pétrocapitalisme triomphant, des îles artificielles, du luxe obscène construit par des travailleurs migrants surexploités. Dubai : le plastique à l’échelle urbaine, la fantasmagorie du capital poussée jusqu’à son point de délire.
...