Nein. Beide Gruppen schreiben, dass ihre Modelle noch nicht im echten Leben angewendet werden könnten. Getestet haben sie ihre Anwendungen mit KI-Versionen von Patienten, die aber auf realen Daten basierten. Diese Simulationen haben den Angaben nach Tücken. Etwa antwortet und reagiert ein solch virtueller Patient völlig anders als ein Mensch aus Fleisch und Blut, der mit akuten Beschwerden in eine Klinik kommt. MIRA habe im Allgemeinen eine angemessene, evidenzbasierte Behandlung vorgeschlagen, heißt es zwar. Die Empfehlungen seien aber nicht zu 100 Prozent zuverlässig gewesen.
»Die Ergebnisse belegen, welches Potenzial KI-Agenten für die Medizin besitzen«, sagt Professor Dr. Uwe Platzbecker, Medizinischer Vorstand des Uniklinikums Dresden. Für die weitere Entwicklung gehe es um die Frage, »wie wir solche Innovationen sicher, transparent und zum Nutzen der Patientinnen und Patienten in die klinische Praxis integrieren können«.
Professor Dr. Kerstin Denecke von der Berner Fachhochschule sieht als Hürden aktuell die Datenrealität im Gesundheitswesen, Zulassungsverfahren, unklare Verantwortlichkeiten und repräsentative Studien zu Risiken solcher Systeme. »Für klinische Entscheidungen braucht es mehr als Folgsamkeit gegenüber Guidelines«, erklärt die Expertin für patientenzentrierte digitale Gesundheit. Es brauche Verständnis für die individuelle Situation der Betroffenen.
In der MIRA-Studie sieht Dr. Robert Ranisch, unter anderem Professor für Medizinische Ethik an der Universität Potsdam, zwar einen »spannenden und methodisch klug gemachten Beitrag«. Sie untersuche die Leistungsfähigkeit von KI-Agenten aber eben unter Laborbedingungen.
Hier stelle sich wie bei vielen KI-Studien die Kardinalfrage: Funktioniert das auch im Klinikalltag? »Genau daran scheitern bislang viele vielversprechende KI-Systeme«, erklärt er. Sie stießen schnell an Grenzen, sobald beispielsweise reale Patienten und Behandler, unvollständige Daten, unterschiedliche IT-Systeme ins Spiel kämen.
Dass ein KI-Agent klinische Abläufe sowie Diagnose- und Therapieentscheidungen strukturiert abbilden kann, heißt aus Sicht von Professor Dr. Reinhard Busse, Leiter des Fachgebiets Management im Gesundheitswesen an der TU Berlin, noch nicht, dass dadurch im Alltag eine bessere Versorgung entsteht oder Kosten reduziert werden können.