Wie nützlich ist ChatGPT für die Apotheke? |
 |  | Hermann Wätzig |
| | Yannick Wilke |
 |
25.07.2023 18:00 Uhr |
Auch wenn heute bereits Rezepte digital eingelesen und die verschriebenen Arzneimittel automatisch bereitgestellt werden können – Chatbots werden Apotheker in den kommenden Jahren in der Beratung nicht ersetzen können. Denn ihre Antworten auf pharmazeutische Fragestellungen sind in vielen Punkten fehlerhaft oder ungeschickt. Um zu verstehen, was in der Zukunft in diesem Bereich zu erwarten ist, sollten die Stärken und Schwächen der generativen KI genauer betrachtet werden.
Kunden erwarten, dass das Apothekenteam eine konkrete Präparate-Empfehlung ausspricht. Das beherrscht ChatGPT noch nicht. / Foto: Getty Images/Westend61
Zunächst einmal wird der Bot ChatGPT als freundlich empfunden, da er fast immer den richtigen Ton trifft. Er gibt schnell Antworten. Er wird nicht müde und ist geduldig. Spannenderweise ist er aber nicht immer ehrlich: In den Trainingstexten scheinen sich so viele Unwahrheiten, Übertreibungen und Selbstdarstellungen zu finden, dass diese auf die maschinellen Antworten abfärben. Das ist ein Beispiel für eine sehr interessante Emergenz. Zusätzlich fällt in unseren Untersuchungen auf, dass die Antworten nicht sehr kreativ sind und dass der Bot nicht gut zu Entscheidungen fähig ist.
ChatGPT stellt gern verschiedene Handlungsoptionen vor und legt sich nicht fest. Dies ist zum Beispiel an dieser Antwort zur Akutbehandlung von Migräne zu erkennen (in diesem Fall ist die gesamte Aussage nicht ganz korrekt): »In der Regel werden für die Akutbehandlung von Migräne Schmerzmittel wie Ibuprofen, Paracetamol oder Aspirin empfohlen. Es gibt auch spezielle Migräne-Medikamente, die sogenannten Triptane, wie Sumatriptan, Rizatriptan oder Eletriptan, die gezielt auf die Behandlung von Migräne abzielen. Diese Medikamente können helfen, die Schmerzen, Übelkeit und Lichtempfindlichkeit während einer Migräneattacke zu lindern.« Patienten erwarten aber meist, dass der Apotheker für sie entscheidet und die richtige Behandlung empfiehlt.
Zudem ist es bei der Beratung von Patienten zum Beispiel zu Kopfschmerzen oder Magenschmerzen eine aktive Gesprächsführung wichtig, etwa mit Fragen nach der Vorgeschichte, bekannten Krankheiten, einer weiteren Arzneimitteleinnahme oder Mahlzeiten. Diese aktive Gesprächsführung beherrscht ChatGPT bisher nicht, wie Anfragen an ihn zu den genannten beiden Indikationen zeigten. Ihm fehlt wohl auch ein leistungsfähiges gedankliches Modell für seine Gesprächspartner.
Bisher ist auch die Fähigkeit zur Reflexion bei Chatbots nicht erkennbar. Sie können also nicht über eigene Gedanken, Handlungen oder Erfahrungen nachdenken und diese nicht bewerten; zumindest berichten die AI-Firmen nicht davon. Der Bot kann daher seine eigene Leistungsfähigkeit schwer einschätzen. Fragt man ihn, ob er sich bei einem bestimmten Sachverhalt sicher ist, gibt er keine gute Antwort.
Und ChatGPT kann zwar Texte effizient zusammenstellen, aber nicht sehr gut verstehen. Wenn ein Wort mehrere Bedeutungen haben kann, entscheidet er sich manchmal falsch, und auch noch eher leichte logische oder rechnerische Aufgaben (etwa wieviel CO2 bei der Einnahme einer bestimmten Menge von Natriumhydrogencarbonat entsteht) kann er nicht ohne weiteres lösen. Auch bei der Erstellung von Rezepturen ist der Bot überfordert.
Bei der Medikationsanalyse zeigte ChatGPT noch deutliche Schwächen. / Foto: ABDA
Zudem hatte ChatGPT Schwierigkeiten mit der Bearbeitung einer in der PZ veröffentlichten Medikationsanalyse. Er hatte nicht alle Aussagen verstanden oder es fehlten ihm Daten. Ihm entging eine Interaktion durch einen gemeinsamen Metabolismus über CYP2C19, ebenfalls eine erhöhte Blutungsneigung unter der Behandlung mit Escitalopram.
All diese Schwächen treffen die Leistungsfähigkeit von ChatGPT 4.0 nicht im Kern, denn für diese Aufgaben ist er nicht konstruiert. Diese Fähigkeiten hätten sich nur zufällig als Emergenz ergeben können. Es ist aber ein naheliegender Schritt, Weiterentwicklungen mit zusätzlichen Modulen auszurüsten, die zum Beispiel rechnen oder Entscheidungen vorbereiten können. An entsprechenden Lösungen wird bereits gearbeitet.
Eine bereits verfügbare ist der sogenannte KI-Agent Auto-GPT, dem man einen Plan wie die Erstellung einer Website zu einem bestimmten Thema vorgeben kann, den dieser dann in Teilaufgaben unterteilt und selbstständig ausführt.
