Wenig Vertrauen in medizinische KI-Ratschläge

Künstliche Intelligenz spielt eine immer größere Rolle in der Medizin. Glauben Menschen aber, dass ein medizinischer Ratschlag von einem Chatbot stammt, kommt Skepsis auf, so das Ergebnis einer Würzburger Studie, über die im Fachjournal »Nature Medicine« berichtet wird. Vor allem Verlässlichkeit und Empathie der KI-Ratschläge werden negativ bewertet.

Die Würzburger Wissenschaftlerinnen und Wissenschaftler untersuchten die Reaktion von Menschen auf KI-generierte medizinische Ratschläge. »Uns interessierte nicht die technische Kompetenz der KI, sondern allein die Frage, wie der KI-Output wahrgenommen wird«, sagt Professor Dr. Moritz Reis von der Julius-Maximilians-Universität Würzburg.

Dafür teilte die Forschungsgruppe mehr als 2000 Studienteilnehmerinnen und -teilnehmer in drei Gruppen ein, die im Rahmen des Experiments identische medizinische Ratschläge erhielten. Die erste Gruppe bekam gesagt, dass die Empfehlungen von einem Arzt oder einer Ärztin stammten. Bei der zweiten wurde ein KI-basierter Chatbot als Urheber genannt und die dritte Gruppe ging davon aus, dass die Ratschläge zwar von einem Chatbot stammten, aber nochmal von Arzt oder Ärztin überprüft wurden.

Die Probanden bewerteten die Empfehlungen auf Verlässlichkeit, Verständlichkeit und Empathie. Sobald sie vermuteten, dass eine KI beteiligt war, nahmen sie die Ratschläge als weniger empathisch und verlässlich wahr. Dies galt auch für die Gruppe, die glaubte, dass ein Arzt oder eine Ärztin die KI-Empfehlungen überprüft hatte. Entsprechend waren sie weniger bereit, diesen Empfehlungen zu folgen.

»Der Effekt der Voreingenommenheit gegen KI ist zwar nicht riesig, aber statistisch signifikant«, kommentiert Reis. »Jeder Mensch kann Patient sein und solche Tools nutzen. Daher können auch kleinere Effekte gesellschaftlich große Relevanz entwickeln.«

Die KI-Skepsis erklärt sich der Kognitionspsychologe teilweise mit Stereotypen: »Viele glauben, eine Maschine könne nicht empathisch sein.« Bei der Verständlichkeit bewerteten alle drei Gruppen die Ratschläge jedoch gleich. »Empathie wird wahrscheinlich als menschliche Eigenschaft gesehen, während Verständlichkeit als technische Kompetenz gilt«, so Reis. Für die Forschungsgruppe ist die festgestellte KI-Skepsis wichtig, da Künstliche Intelligenz in der Medizin eine immer wichtigere Rolle spiele. Tatsächlich gibt es zahlreiche Veröffentlichungen über neue KI-Anwendungsmöglichkeiten.