Equité et explicabilité des algorithmes : définitions, paradoxes et biais
Résumé
L’équité ou fairness des algorithmes suscite une abondante littérature et des conférences spécialisées y sont consacrées comme ACM FaccT.
Sur un plan qualitatif on examinera les liens entre équité, explicabilité et interprétabilité. On peut penser qu’il vaut mieux comprendre le fonctionnement d’un algorithme pour savoir s’il est équitable, mais en fait il n’en est rien car la transparence ou l’explicabilité sont relatives à l’algorithme alors que l’équité concerne son application différenciée à des groupes d’individus. Suivant Rudin (2019) on distinguera l’interprétabilité, qui est liée à la simplicité, de l’explicabilité qui est en général post-hoc avec des approches globales ou locales, agnostiques ou spécifiques, utilisant souvent des modèles de substitution (Molnar, 2021).
La diversité des mesures d’équité ne simplifie pas son appréhension: Verma & Rubin (2018) en ont dénombré plus de 20 qui conduisent d’ailleurs à des incompatibilités comme l’illustre la controverse sur laquelle nous reviendrons concernant l’application « COMPAS » de prédiction de la récidive. Cf Mitchell et al. (2021) et Rudin, Wang & Coker (2020).
Les « biais » des algorithmes ne sont souvent que la reproduction de ceux des décisions antérieures que l’on retrouve dans les données d’apprentissage. Mais ce ne sont pas les seuls. On tentera de dresser une typologie des principaux biais : statistiques, sociétaux, cognitifs, etc.