 |  | Brigitte M. Gensthaler |
 |
18.05.2026 14:30 Uhr |
Menschen reden mitunter lieber mit einem Chatbot als mit einem Heilberufler – gerade wenn es um Gesundheitsthemen geht. / © Adobe Stock/tippapatt
Lange Zeit sei man überzeugt gewesen, dass Menschen immer am liebsten mit Menschen und nicht mit Maschinen reden wollen. »Das ist ein Trugschluss. Viele reden lieber mit einer Maschine, denn diese be- oder verurteilt nicht«, sagte der Arzt und Informatiker, der die Professur für Gesundheits- und Sozialmanagement an der FOM Hochschule, Neuss, innehat, kürzlich beim Bayerischen Apothekertag in München. Hinzukomme, dass Patienten ehrlicher sind, wenn sie keinen »guten Eindruck« machen wollen, wie dies im Gespräch mit Ärzten und Apothekern oft der Fall ist. Dies sei geradebei heiklen und schmabesetzten Themen zu bedenken.
Den Einwand, dass KI nicht zugewandt reagieren könne, ließ Juffernbruch nicht gelten. Empathie und Emotionalität können inzwischen auch Chatbots.« In Studien hätten Menschen diese mitunter sogar empathischer als einen Arzt eingestuft. Chatbots müssten ihre Nutzer aber deutlicher als bisher darauf hinweisen, dass sie es mit einer Maschine zu tun haben, betonte der Referent.
Künstliche neuronale Netze könnten heute im Prinzip alle Leistungen erbringen: »Geht nicht, gibt’s nicht.« Klare Anforderungen an KI-Systeme sind seit 1. August 2024 in der europäischen Verordnung über künstliche Intelligenz (KI-Verordnung) festgelegt. Diese sei vor allem auf die potenziellen Risiken für Gesundheit, Sicherheit und Grundrechte der Bürger ausgerichtet und unterscheide verschiedene Risikoklassen, erklärte Juffernbruch.
Demnach sind KI-Systeme verboten, die die Grundrechte der Menschen bedrohen, zum Beispiel indem sie Social Scoring (Bewertung des sozialen Verhaltens) ermöglichen. Viele Anwendungen im Gesundheitswesen, zum Beispiel KI-basierte medizinische Software, werden als hochriskant eingestuft. Dafür gelten strenge Anforderungen wie Risikominderungsmaßnahmen, hochwertige Datensätze, menschliche Aufsicht und klare Informationen für die Nutzer.
