Comment les biais cognitifs affectent la prise de décision assistée par l'IA explicable

Rafik Belloum (1, 2) , Astrid Bertrand (3, 4, 5, 6) , James R. Eagan (3, 4) , Winston Maxwell (5, 6)

1 LAMIH - Laboratoire d'Automatique, de Mécanique et d'Informatique industrielles et Humaines - UMR 8201
2 UPHF - Université Polytechnique Hauts-de-France
3 DIVA - Design, Interaction, Visualization & Applications
4 INFRES - Département Informatique et Réseaux
5 NOS - Numérique, Organisation et Société
6 SES - Département Sciences Economiques et Sociales

This paper summarizes a literature review on cognitive biases influencing XAI-assisted decision-making. It goes beyond mere identification of cognitive biases in XAI, providing a heuristic map, guiding the future development of XAI systems that are more attuned to human cognitive processes. This map contributes to the evolution of the XAI field by emphasizing alignment with how individuals comprehend and use explanations provided by AI systems.

Mots clés: Explainable AI XAI; Cognitive biases; Human computer interaction HCI

Domaines: Informatique [cs]; Intelligence artificielle [cs.AI]

Rafik Belloum, Astrid Bertrand, James R. Eagan, Winston Maxwell. Comment les biais cognitifs affectent la prise de décision assistée par l'IA explicable. 24ème conférence francophone sur l'Extraction et la Gestion des Connaissances, EGC 2024, Explain'AI., Jan 2024, Dijon (Bourgogne), France. ⟨hal-04529016⟩