L’intelligence artificielle dans les structures d’urgences : place de la formation et de la garantie humaine

Abstract

La recherche sur l’intelligence artificielle (IA) appliquée à la médecine d’urgence et son utilisation au quotidien dans les structures d’urgences (SU) ont augmenté significativement ces dernières années. L’IA doit être considérée comme un outil d’aide à la prise en charge diagnostique et thérapeutique des patients et d’amélioration de l’organisation des SU, notamment par la prise en compte de contraintes « métiers », contextuelles, relatives aux patients et plus généralement structurelles. L’IA comporte des avantages (reproductibilité, rapidité) mais aussi des risques (erreur, perte d’esprit critique). À l’image du Règlement général sur la protection des données et notamment de santé, la Commission européenne a publié un projet de règlement nommé « AI Act » pour la conception, le développement et l’utilisation des algorithmes d’IA. Elle souhaite imposer, entre autres, une garantie humaine, autrement dit une supervision humaine pour assurer la sécurité des patients, des soignants et des institutions. La mise en place d’un collège de garantie humaine pluriprofessionnel visant à garantir la supervision des outils d’IA de la conception au développement, au déploiement et à l’utilisation quotidienne permettra ainsi d’assurer durablement la sécurité des patients.