KI in der Apotheke

-

Künstliche Intelligenz verantwortlich nutzen

Nach mehr als drei Jahren Gesetzgebungsverfahren trat am 1. August 2024 die EU-Verordnung 2024/1689 über künstliche Intelligenz (KI-VO) in Kraft. Sie schafft einen einheitlichen europäischen Rechtsrahmen und folgt einem risikobasierten Ansatz: Je gefährlicher die Anwendung, desto strenger die Regulierung.

Doch was genau ist ein »KI-System«? Die Legaldefinition (Art. 3 Nr. 1 KI-VO) umfasst »ein maschinengestütztes System, das für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können«. Entscheidend ist die Fähigkeit, aus Eingaben etwas Neues abzuleiten – also über einfache Wenn-dann-Regeln hinauszugehen.

Die Verordnung unterscheidet KI-Systeme nach drei Risikostufen: verbotene Praktiken (Art. 5 KI-VO), Hochrisiko-KI-Systeme (Art. 6 KI-VO) und KI-Systeme mit sonstigem Risiko. Für Apotheken besonders relevant: KI-basierte Medizinprodukte und In-vitro-Diagnostika gelten als Hochrisiko-KI-Systeme, da sie unter die EU-Verordnungen über Medizinprodukte (MDR) und In-vitro-Diagnostika (IVDR) fallen (Anhang I Abschnitt A Nr. 11 und 12 KI-VO).

Die KI-VO sieht eine gestaffelte Anwendbarkeit vor (Art. 113 KI-VO). Sie gilt ab dem 2. August 2026, wobei die Vorschriften zu verbotenen Praktiken bereits seit dem 2. Februar 2025 anwendbar sind. Die Vorschriften und Pflichten bezogen auf Hochrisiko-KI-Systeme treten dagegen erst am 2. August 2027 in Kraft.

Die ABDA hat in ihrem Positionspapier vom Oktober 2024 vielfältige Anwendungsfälle identifiziert. Die Einsatzmöglichkeiten reichen von der Patientenbetreuung bis hin zur betriebswirtschaftlichen Steuerung.

Bei der Patientenbetreuung und Kommunikation bauen KI-gestützte Übersetzungstools Sprachbarrieren ab und Erinnerungen an die Medikamenteneinnahme verbessern die Adhärenz. Chatbots können Patienten rund um die Uhr erreichen, organisatorische Fragen beantworten und Anfragen vorsortieren. Das schafft mehr Raum für die pharmazeutische Beratung.

Ein weiterer Schwerpunkt ist die Arzneimitteltherapiesicherheit: KI analysiert Patientendaten, erkennt Muster und warnt vor potenziellen Risiken. Sie unterstützt bei Wechselwirkungschecks, identifiziert unerwünschte Arzneimittelwirkungen und gibt maßgeschneiderte Empfehlungen unter Berücksichtigung individueller Patientendaten.

Auch die Lieferkettenoptimierung profitiert von KI: Sie analysiert Absatzzahlen und Trends, um Lieferengpässe frühzeitig zu prognostizieren. Das automatisierte Lieferkettenmanagement reduziert Lagerwertverluste und steigert die Kundenzufriedenheit.

Ergänzend bieten betriebswirtschaftliche Analysen durch KI-basierte Dashboards Echtzeit-Einblicke in Kennzahlen wie Umsatz, Lagerbestand und Patientenströme. Die Liquiditäts- und Rentabilitätsüberwachung wird so zur kontinuierlichen Aufgabe.

So verlockend die Möglichkeiten sind – die berufsrechtlichen Grenzen sind klar. § 7 Apothekengesetz (ApoG) verlangt die persönliche Leitung der Apotheke in eigener Verantwortung. Die Apothekenleitung ist persönlich für alle pharmazeutischen Tätigkeiten verantwortlich. Auch die Informations- und Beratungspflicht nach § 20 Apothekenbetriebsordnung (ApBetrO) bleibt unantastbar.

KI kann also keine fachliche Verantwortung übernehmen, da ihr die Qualität als Rechtssubjekt fehlt. Sie ist keine »Hilfsperson« im rechtlichen Sinne. Die endgültige Entscheidung und Verantwortung liegt immer beim Apotheker.

Zulässig ist der Einsatz von KI als Unterstützer bei Routineaufgaben wie Bestandsverwaltung, Dokumentation oder zur Analyse unter Plausibilitätsprüfung durch den Apotheker. Unzulässig wäre die vollständige Übertragung der Beratung an KI-Systeme oder eine KI-gesteuerte Arzneimittelabgabe ohne Apothekerentscheidung.

Dies entspricht auch den rechtlichen Vorgaben: Die Verantwortung für die Arzneimittelabgabe und Patientenberatung verbleibt bei der Apothekerin oder dem Apotheker. KI kann lediglich Empfehlungen geben und Informationen bereitstellen, die der Apotheker bei Bedarf in seine fachliche Bewertung einbezieht. Diese Empfehlungen bedürfen jedoch stets einer kritischen Prüfung durch den Apotheker.

Die KI-VO sieht bei Verstößen gegen ihre Regelungen teils empfindliche Bußgelder vor, die bis in den Millionenbereich gehen. Ein direkter Schadensersatzanspruch zugunsten betroffener Personen ist in der Verordnung jedoch nicht geregelt. Betroffenen steht als behördlicher Rechtsschutz lediglich das Recht zu, sich an die zuständige nationale Aufsichtsbehörde zu wenden. Für die Geltendmachung von Schadensersatzansprüchen infolge KI-bedingter Fehler muss daher auf andere Rechtsgrundlagen zurückgegriffen werden.

Besonders relevant ist dabei die neue EU-Produkthaftungsrichtlinie 2024/2853, die im Dezember 2024 in Kraft trat. Sie stellt ausdrücklich klar: Software und KI-basierte Produkte sind »Produkte« im Sinne des Produkthaftungsrechts. Das bedeutet: Bei Fehlern von KI-Systemen haftet demnach der Hersteller für entstandene Schäden. Zudem wurden beweiserleichternde Vermutungen für Fehlerhaftigkeit und Kausalität eingeführt, wenn die Beweisführung aufgrund der technischen Komplexität »übermäßig schwierig« ist.

Im vertraglichen Bereich können Verstöße gegen KI-VO-Pflichten den Sorgfaltsmaßstab modifizieren. Für Apotheken als Betreiber ist der Nachweis der Einhaltung der Sorgfaltspflichten bei Auswahl und Überwachung der eingesetzten KI-Systeme entscheidend. Werden fehlerhafte KI-Systeme eingesetzt oder Betreiberpflichten verletzt, kann dies zu Schadensersatzansprüchen führen. Im außervertraglichen Bereich kommen Schadensersatzansprüche nach § 823 Abs. 2 Bürgerliches Gesetzbuch (BGB) in Betracht, da die Vorschriften über verbotene Praktiken, Hochrisiko-KI-Systeme und Transparenzpflichten Schutzgesetze sind.

Zusammenfassend lässt sich festhalten: Künstliche Intelligenz bietet Apothekern enorme Chancen, die Effizienz zu steigern, die Patientensicherheit zu erhöhen und dem Fachkräftemangel entgegenzuwirken. Sie kann Routineaufgaben übernehmen, komplexe Daten analysieren und den Apotheker bei seiner Entscheidungsfindung unterstützen.

Doch der Kern der pharmazeutischen Tätigkeit bleibt menschlich: die Beratung von Mensch zu Mensch, das Verstehen individueller Bedürfnisse, die Verantwortung für Gesundheit und Leben. Für einen verantwortungsvollen KI-Einsatz sind Transparenz, Datensicherheit und eine qualitativ hochwertige Datenbasis unerlässlich. Da KI fachlich falsche Antworten liefern und auch halluzinieren kann, ist die finale Verifizierung und Plausibilitätsprüfung durch menschliche Expertise unverzichtbar.

Die rechtlichen Rahmenbedingungen durch die KI-VO und die neue Produkthaftungsrichtlinie sind höchst komplex, viele Fragen werden erst durch zukünftige Gerichtsentscheidungen abschließend geklärt werden. Dies darf jedoch Apothekerinnen und Apotheker nicht davon abhalten, die Chancen der KI bereits heute zu nutzen.