Skip to Main content Skip to Navigation
New interface
Conference papers

Equité et explicabilité des algorithmes :  définitions, paradoxes et biais

Gilbert Saporta 1 
1 CEDRIC - MSDMA - CEDRIC. Méthodes statistiques de data-mining et apprentissage
CEDRIC - Centre d'études et de recherche en informatique et communications
Résumé : L’équité ou fairness des algorithmes suscite une abondante littérature et des conférences spécialisées y sont consacrées comme ACM FaccT. Sur un plan qualitatif on examinera les liens entre équité, explicabilité et interprétabilité. On peut penser qu’il vaut mieux comprendre le fonctionnement d’un algorithme pour savoir s’il est équitable, mais en fait il n’en est rien car la transparence ou l’explicabilité sont relatives à l’algorithme alors que l’équité concerne son application différenciée à des groupes d’individus. Suivant Rudin (2019) on distinguera l’interprétabilité, qui est liée à la simplicité, de l’explicabilité qui est en général post-hoc avec des approches globales ou locales, agnostiques ou spécifiques, utilisant souvent des modèles de substitution (Molnar, 2021). La diversité des mesures d’équité ne simplifie pas son appréhension: Verma & Rubin (2018) en ont dénombré plus de 20 qui conduisent d’ailleurs à des incompatibilités comme l’illustre la controverse sur laquelle nous reviendrons concernant l’application « COMPAS » de prédiction de la récidive. Cf Mitchell et al. (2021) et Rudin, Wang & Coker (2020). Les « biais » des algorithmes ne sont souvent que la reproduction de ceux des décisions antérieures que l’on retrouve dans les données d’apprentissage. Mais ce ne sont pas les seuls. On tentera de dresser une typologie des principaux biais : statistiques, sociétaux, cognitifs, etc.
Document type :
Conference papers
Complete list of metadata

https://hal-cnam.archives-ouvertes.fr/hal-03668668
Contributor : Gilbert Saporta Connect in order to contact the contributor
Submitted on : Sunday, May 15, 2022 - 11:06:17 PM
Last modification on : Wednesday, September 28, 2022 - 5:53:33 AM

Identifiers

  • HAL Id : hal-03668668, version 1

Collections

Citation

Gilbert Saporta. Equité et explicabilité des algorithmes :  définitions, paradoxes et biais. CISEM 2022, 3eme Colloque international statistique et économétrie, Faculté des sciences économiques et de gestion, Mahdia, May 2022, Mahdia, Tunisie. ⟨hal-03668668⟩

Share

Metrics

Record views

73