Beim Medikationsmanagement stößt KI an Grenzen

Künstliche Intelligenz ist ein Werkzeug, dessen Wert davon abhängt, wie es eingesetzt wird. Zu diesem Ergebnis kommt ein Report der Technology Advisory Group des Weltapothekerverbands FIP. Fest steht auch: Die Pharmazeutinnen und Pharmazeuten müssen für die Weiterentwicklung digitaler Tools Verantwortung übernehmen. Nach Ansicht des FIP sollten sie an jedem Bereich der KI-Modell-Entwicklung beteiligt sein, um sicherzustellen, dass »die richtigen Probleme gelöst und unbeabsichtigte Folgen minimiert« werden.

In der klinischen Praxis existieren bereits Anwendungsbereiche von KI beziehungsweise maschinellem Lernen, die sich zunächst in fünf Kategorien unterteilen lassen: Diagnostik, Datenerfassung und -messung, Automatisierung von Arbeitsabläufen und Verwaltungstools, Patiententriage und Risikostratifikation sowie Behandlungs- und Therapieempfehlungen.

Zum Beispiel kommt KI zum Einsatz, um das Lieferketten-Management zu verbessern, klinischen Betrug oder den illegalen Abgriff von Opioiden aufzudecken. In der Diagnostik geht es hauptsächlich darum, Krankheiten auf Röntgenbildern zu erkennen. Allerdings habe es im Bereich der Behandlungsempfehlungen bislang nur sehr wenige erfolgreiche KI-Anwendungen gegeben, wie es in dem Report heißt. »Die Empfehlung und Optimierung von Behandlungen ist eine besonders anspruchsvolle Aufgabe für KI, insbesondere im Zusammenhang mit der Optimierung von Medikamenten.«

Daher ist es nach Auffassung des FIP für Apothekerinnen und Apotheker umso wichtiger zu verstehen, was KI beim Medikationsmanagement leisten kann – und was eben nicht. Eine bessere Einschätzung der Grenzen solcher Tools kann ihnen demnach helfen, optimaler mit KI-Anwendungen zu interagieren und sie zu ihrem Vorteil zu nutzen.

Vor allem stehen drei Algorithmen einem erfolgreich KI-gesteuerten Medikationsmanagement im Wege. Erstens der sogenannte Model Drift. Deep-Learning-Modelle beruhen nämlich auf Mustererkennung, um zwischen Variablen in einer festen Umgebung zu assoziieren. Da sich die Welt aber ständig verändert, hat sie nichts mehr mit der Welt zu tun, auf die das Modell ursprünglich einmal trainiert war. Die Muster sind also nicht mehr anwendbar. Folglich werden die Ergebnisse schlechter. Das trifft aber nicht auf alle Bereiche gleichermaßen zu. So ist eine KI, die auf einem Röntgenbild Lungenerkrankungen erkennen soll, weniger anfällig für einen Model Drift, weil die Qualität der Röntgenbilder sich nicht so extrem schnell verändert.

Dagegen zählt die Pharmazie zu einem der dynamischsten Bereiche im Gesundheitswesen. Ständig kommen neue Arzneimittel auf den Markt, die Forschung bringt neue Erkenntnisse mit und Leitlinien ändern sich. »All dies trägt dazu bei, dass die Genauigkeit eines Modells zu schwinden beginnt«, warnen die Autoren des Reports. Als ein Beispiel nennen sie das Covid-19-Medikament Paxlovid™. So war etwa der Textroboter ChatGPT der US-Firma OpenAI zunächst nur mit Daten bis zum Jahr 2020 gefüttert worden. Auf die Frage »Was ist Paxlovid?« würde es zwar eine Antwort geben, die aber automatisch falsch sein muss.