Séminaire R-D du CRIM | Comprendre et adresser le blanchiment éthique en apprentissage machine

English will follow

Le blanchiment éthique désigne le risque qu’un modèle d’apprentissage de type boîte noire, intrinsèquement biaisé, puisse être perçu comme équitable grâce à une manipulation a posteriori des explications fournies.

Dans cette conférence, Sébastien Gambs explorera d’abord la faisabilité pratique de ce type d’attaque, en illustrant ses mécanismes et implications. Il analysera ensuite les défis liés à sa détection, notamment en raison de sa généralisation et de sa transférabilité. Enfin, il proposera des pistes concrètes pour prévenir ce phénomène, contribuant ainsi à renforcer l’intégrité des modèles d’apprentissage.

—-

Ethical whitewashing refers to the risk of a black-box learning model with inherent bias being perceived as fair through the manipulation of its a posteriori explanations.

In this presentation, Sébastien Gambs will first demonstrate how such an attack can be practically implemented, shedding light on its mechanisms and implications. He will then discuss the challenges in detecting these attacks, particularly due to their generalization and transferability. Finally, he will propose concrete approaches to mitigate this phenomenon and safeguard the integrity of learning models.

*Please note that presentation will be in French only.