PFIA 2024
Expérimentation de la confiance d’un utilisateur de système à base d’IA
Nicolas Maille, Kahina Amokrane-Ferka, Benoît Leblanc, Nicolas Heulot
Les systèmes à base d’IA deviennent de plus en plus présents dans la vie de tous les jours et surtout dans les activités professionnelles. Se pose alors la question de savoir ce que les humains éprouvent vis-à-vis de ces systèmes. Leurs attitudes s’apparentent déjà aux relations que peuvent avoir entre eux plusieurs humains, dans le cadre professionnel. Avec l’accroissement des services associés à ces systèmes (aide à la décision, recommandation, etc.), la question de la confiance devient particulièrement critique pour la sécurité et la performance des outils industriels.
L’objectif de ce travail est d’éclairer comment la confiance que l’opérateur se construit dans le système à base d’IA vient modifier son ressenti, son comportement et ses performances globales dans la réalisation de sa tâche. Pour ce faire, un micro-monde a été développé et une étude expérimentale faisant intervenir 32 sujets a été conduite afin de mieux cerner la question. Les résultats montrent une adaptation du comportement en fonction du niveau de fiabilité du système, avec en particulier une confiance reportée plus forte et une supervision moins importante quand la fiabilité de l’IA est forte.