Les dispositifs médicaux basés sur l’IA peuvent être utilisés dans divers domaines cliniques. En radiologie, par exemple, ils soutiennent la détection du cancer. De plus, les systèmes d’aide à la décision clinique aident à sélectionner des thérapies personnalisées pour les patients. L’IA peut également prendre en charge les systèmes de surveillance et d’alerte précoce en temps réel, ainsi que les chatbots pour des applications telles que la communication avec les patients et les logiciels qui génèrent automatiquement des rapports médicaux ou résument les résultats. L’analyse se concentre sur les risques qui peuvent survenir lors de l’utilisation pratique de tels systèmes d’IA. Cela inclut, par exemple, une probabilité accrue que les résultats soient mal compris ou mal interprétés en raison de la nature parfois opaque des systèmes d’IA. Des problèmes peuvent également survenir lorsque la confiance dans l’application n’est pas appropriée : les utilisateurs s’appuient trop sur le support de l’IA ou ignorent les signaux pertinents. Les chercheurs soulignent également le risque de biais d’automatisation : la tendance à accepter les recommandations sans esprit critique, ce qui signifie que des erreurs peuvent être négligées ou que des jugements indépendants peuvent être négligés. Parmi les autres risques possibles figurent une perte de compétence (déqualification), un stress technologique chez les utilisateurs, une expansion incontrôlée des domaines d’application au-delà du domaine initialement prévu et des erreurs résultant de modifications des systèmes et de différents modes de fonctionnement. De tels facteurs peuvent créer un stress supplémentaire ou des sources d’erreurs inattendues dans la pratique clinique quotidienne, même si les performances techniques d’un système sont bonnes.
Isabelle Lafont
En tant que fondatrice d'ACDM, je suis passionnée par l'idée de créer une communauté qui favorise l'innovation et le partage dans le domaine de la santé. Avec un parcours en communication et en gestion de projets de santé, je suis dédiée à rendre l'information médicale accessible et pertinente pour tous. Mon engagement est de promouvoir un dialogue éclairé et inclusif autour du bien-être et de la médecine.