Podiumsdiskussion im Fishbowl-Format (von links): Moderatorin Frederike Gramm, Hans Theiss, Franziska Scharpf, Marlene Lessel, Franziska Utzinger, Hans-Peter Hubmann, Alena Buyx und Moderator Jonah Grütters / © BAV/Sabrina Spies
KI-Systeme hätten die Welt der Medizin revolutioniert, bergen aber auch Gefahren. Das machte die Ärztin und Direktorin des Instituts für Geschichte und Ethik der Medizin, TU München, im Impulsvortrag an einem Beispiel deutlich. Im Jahr 2024 erhielten die Entwickler des KI-Modells »AlphaFold«, Demis Hassabis und John Jumper, den Nobelpreise für Chemie. Das Modell kann die dreidimensionale Faltung von Proteinen vorhersagen, was die Arzneimittelforschung stark vorangebracht habe. Mit dem gleichen Algorithmus könne man aber auch Biokampfstoffe entwickeln.
Für Buyx ist KI eine »Dual use«-Technologie, vergleichbar mit der Atomkraft. KI sei eine »fantastische und transformative Technologie«, die aber dringend reguliert werden müsse.
Buyx geht davon aus, dass die KI den Arzt- und Apothekerberuf dramatisch verändern werde. Das werfe ethische Fragen auf. Daher verfasste der Deutsche Ethikrat im Jahr 2023 eine Stellungnahme zum Verhältnis von Mensch und Maschine. Frage: Dürfen wir den Maschinen in moralisch relevanten Dingen Verantwortung übertragen? Die klare Antwort: Nein.
Alena Buyx bei ihrem Vortrag. / © BAV/Sabrina Spies
»KI-Modelle denken nicht, sie haben kein Bild von der Welt – das ist Statistik«, verdeutlichte Buyx. Der Mensch verfüge auch über eine emotionale, verkörperte und soziale Intelligenz. Daher könne KI nur als Assistenz eingesetzt werden, aber nie die letzte Verantwortung tragen. »Die Anwendung der KI muss menschliche Handlungs- und Entfaltungsmöglichkeiten erweitern, aber nicht verringern. KI darf den Menschen nicht ersetzen.«
In der Diskussionsrunde gingen Kammerpräsidentin Franziska Scharpf und BAV-Vorsitzender Hans-Peter Hubmann auf KI-Anwendungen ein, die den Apothekenalltag effizienter und sicherer machen und die Mitarbeitenden entlasten. Digitale Systeme könnten aber auch eine Belastung sein, wenn Kunden sich bei Dr. Google informieren und mit Falschinformationen in die Apotheke kommen, ergänzte Hubmann.
Auch bei den Ärzten sei die Digitalisierung »voll angekommen«, bestätigte Marlene Lessel, Vizepräsidentin der Bayerischen Landesärztekammer. Es gebe KI für spezielle Fragestellungen, sagte die niedergelassene Pathologin. »Ich benutze solche Systeme, aber die Interpretation der Daten mache ich.« Es dürfe nicht zum De-Skilling, also zum Verlust von Fähigkeiten, durch KI-Nutzung kommen. Lernen und Erfahrungen sammeln seien für sie im Alltag sehr wichtig.
Wie valide sind die KI-generierten Daten? »Wir müssen diese Tools selbst entwickeln«, mahnte Buyx. Das Gesundheitssystem und die Heilberufe müssten eigene Systeme mit deutschen oder europäischen Daten aufbauen. »Ohne gute Daten gibt es keine gute KI. Wir brauchen eigene valide Datensätze, um Tools zu trainieren, die verlässlich funktionieren. Wir haben irrsinnige Schätze zu heben.« Dafür sei aber eine finanzielle Förderung gefragt.
