Wer kontrolliert ChatGPT?

Spielzeug, Werkzeug, Medizinprodukt? Bei der Künstlichen Intelligenz (KI) gehen die Meinungen darüber, ob sie eher nützlich ist oder gefährlich, weit auseinander. Festgemacht am Textroboter ChatGPT der US-Firma OpenAI, streiten sich hierzulande die Geister, ob es der Menschheit hilft, wenn eine KI blitzschnell und geschliffen über Wagners Nibelungenring, die Geschichte des Sozialismus oder das Fressverhalten von Dreifingerfaultieren referieren kann, oder ob es langfristig eine vielschichtige Gefahr darstellen könnte, wenn die KI Einzug in praktisch alle Lebensbereiche hält.

Weil ChatGPT eben auch den großen Bereich Gesundheit beackert und auf Knopfdruck zum Beispiel Fragen zu Wechselwirkungen von Arzneimitteln beantwortet, hat sich vor Kurzem der Hamburger Medizinrechtler Sebastian Vorberg in einem Offenen Brief ans Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) gewandt und darin dargelegt, dass und warum aus seiner Sicht ChatGPT als Medizinprodukt zu klassifizieren und entsprechend zu kontrollieren sei.

Unter anderem argumentierte Vorberg in dem Brief, dass die KI »ohne Weiteres zur Diagnose, Überwachung, Behandlung oder Vorbeugung von Krankheiten verwendet werden« könne. Außerdem liefere sie Informationen, »die für Entscheidungen mit diagnostischen oder therapeutischen Zwecken herangezogen werden können«. Auch wenn ChatGPT nicht eigens dafür konzipiert sei, weise es dadurch Merkmale eines Medizinprodukts auf. Weil aber der Chatbot in Europa nicht als solcher zugelassen sei und demnach nicht den entsprechenden Regelungen der Medizinprodukte-Verordnung (MDR) unterliege, müssten seine Aktivitäten im medizinischen Bereich »im Wege der Aufsicht« unterbunden »und die notwendigen Maßnahmen zur Qualitätssicherung« getroffen werden, verlangte Vorberg in dem Schreiben, das der PZ vorliegt.