So verlockend die Möglichkeiten sind – die berufsrechtlichen Grenzen sind klar. § 7 Apothekengesetz (ApoG) verlangt die persönliche Leitung der Apotheke in eigener Verantwortung. Die Apothekenleitung ist persönlich für alle pharmazeutischen Tätigkeiten verantwortlich. Auch die Informations- und Beratungspflicht nach § 20 Apothekenbetriebsordnung (ApBetrO) bleibt unantastbar.
KI kann also keine fachliche Verantwortung übernehmen, da ihr die Qualität als Rechtssubjekt fehlt. Sie ist keine »Hilfsperson« im rechtlichen Sinne. Die endgültige Entscheidung und Verantwortung liegt immer beim Apotheker.
Zulässig ist der Einsatz von KI als Unterstützer bei Routineaufgaben wie Bestandsverwaltung, Dokumentation oder zur Analyse unter Plausibilitätsprüfung durch den Apotheker. Unzulässig wäre die vollständige Übertragung der Beratung an KI-Systeme oder eine KI-gesteuerte Arzneimittelabgabe ohne Apothekerentscheidung.
Dies entspricht auch den rechtlichen Vorgaben: Die Verantwortung für die Arzneimittelabgabe und Patientenberatung verbleibt bei der Apothekerin oder dem Apotheker. KI kann lediglich Empfehlungen geben und Informationen bereitstellen, die der Apotheker bei Bedarf in seine fachliche Bewertung einbezieht. Diese Empfehlungen bedürfen jedoch stets einer kritischen Prüfung durch den Apotheker.
Die KI-VO sieht bei Verstößen gegen ihre Regelungen teils empfindliche Bußgelder vor, die bis in den Millionenbereich gehen. Ein direkter Schadensersatzanspruch zugunsten betroffener Personen ist in der Verordnung jedoch nicht geregelt. Betroffenen steht als behördlicher Rechtsschutz lediglich das Recht zu, sich an die zuständige nationale Aufsichtsbehörde zu wenden. Für die Geltendmachung von Schadensersatzansprüchen infolge KI-bedingter Fehler muss daher auf andere Rechtsgrundlagen zurückgegriffen werden.
Besonders relevant ist dabei die neue EU-Produkthaftungsrichtlinie 2024/2853, die im Dezember 2024 in Kraft trat. Sie stellt ausdrücklich klar: Software und KI-basierte Produkte sind »Produkte« im Sinne des Produkthaftungsrechts. Das bedeutet: Bei Fehlern von KI-Systemen haftet demnach der Hersteller für entstandene Schäden. Zudem wurden beweiserleichternde Vermutungen für Fehlerhaftigkeit und Kausalität eingeführt, wenn die Beweisführung aufgrund der technischen Komplexität »übermäßig schwierig« ist.
Im vertraglichen Bereich können Verstöße gegen KI-VO-Pflichten den Sorgfaltsmaßstab modifizieren. Für Apotheken als Betreiber ist der Nachweis der Einhaltung der Sorgfaltspflichten bei Auswahl und Überwachung der eingesetzten KI-Systeme entscheidend. Werden fehlerhafte KI-Systeme eingesetzt oder Betreiberpflichten verletzt, kann dies zu Schadensersatzansprüchen führen. Im außervertraglichen Bereich kommen Schadensersatzansprüche nach § 823 Abs. 2 Bürgerliches Gesetzbuch (BGB) in Betracht, da die Vorschriften über verbotene Praktiken, Hochrisiko-KI-Systeme und Transparenzpflichten Schutzgesetze sind.