Démasquer les préjugés liés au sexe: dans le domaine de l'intelligence artificielle

Grâce à une analyse systématique de la littérature, cet article explore la manière dont certains algorithmes d'IA sont biaisés, une situation qui représente un risque éthique et social majeur, étant donné que les systèmes automatisés participent activement à toute une série de décisions. Il examine également comment le manque de diversité dans les équipes de développement de l'IA et dans les ensembles de données d'entraînement augmente la probabilité de partialité. En outre, il met en évidence les implications éthiques et sociales de ces biais dans différents contextes, comme sur le lieu de travail, où les outils de recrutement automatisés discriminent les candidates, ou en médecine, où les diagnostics sont moins précis pour les femmes en raison d'un manque de données représentatives. D'un point de vue réglementaire, l'insuffisance de cadres juridiques contraignants est reconnue. Bien qu'il existe des efforts tels que la proposition de loi sur l'IA de l'Union européenne ou les recommandations éthiques de l'UNESCO, bon nombre de ces réglementations ne disposent pas de mécanismes d'application efficaces. En revanche, des pays comme le Canada ont mis en place des outils obligatoires d'évaluation de l'impact des algorithmes, qui constituent un modèle plus efficace.