Dans le cas de tâches telles que le soutien diagnostique et la planification de la thérapie, les systèmes d’IA fournissent déjà une aide précieuse, a rapporté le président du Junge DGIM AG, actif en tant que spécialiste en cardiologie et pneumologie au University Medical Center Göttingen. Les experts conviennent donc que l’importance de la technologie en médecine continuera d’augmenter. Dans le tour de discussion, cependant, il est également devenu clair que les outils d’IA fournissent parfois des informations de manière convaincante mais réellement fausses, incomplètes ou trompeuses. Ces erreurs, également appelées «hallucinations», ne peuvent pas être exclues de manière fiable dans un avenir prévisible, selon les participants.
Du point de vue de Beckers, cette restriction est particulièrement pertinente pour la profession du médecin, car ce n’est pas une profession comme les autres: les médecins jouissent non seulement d’une grande réputation sociale, mais ils ont également une grande proximité émotionnelle avec leurs patients grâce à leur travail. Cela va de pair avec une relation spéciale de confiance et une énorme responsabilité, qui n’est guère compatible avec le manque de fiabilité inhérent de l’IA. On the one hand, errors or inaccuracies of the algorithms can have serious health consequences in the medical context, on the other hand, the AI can only inadequate the aspect of emotional intelligence: Although AI can now recognize human emotions by analyzing certain markers on the face1« Néanmoins, il est vrai qu’aucun chatbot ne peut actuellement remplacer le contact empathique. »
Une solution possible consiste à utiliser l’IA dite explicable (XAI): contrairement à un modèle d’IA conventionnel, le XAI met ouvertement d’où il a obtenu ses informations et comment elle est arrivée à sa conclusion. Cela aide non seulement les médecins à mieux évaluer la validité des réponses générées par l’IA, mais aussi à mieux transmettre les informations au patient, a déclaré Becker.
