 |  | Melanie Höhn |
 |
31.07.2026 15:30 Uhr |
Artikel 50 des EU-AI-Act legt Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme fest, darunter generative und interaktive KI-Systeme sowie Deepfakes. / © Imago Images/IlluPics
Der EU-AI Act ist bereits am 1. August 2024 in Kraft getreten, die vollständige Umsetzung der wichtigsten Etappen ist für den 2. August 2028 geplant. Einen wichtigen Meilenstein markiert jedoch schon der kommende 2. August: In Kraft tritt Artikel 50 der KI-Verordnung, der die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme fest, darunter generative und interaktive KI-Systeme sowie Deepfakes, festlegt.
Der Anbieter ist der Hersteller oder Softwaredienstleister, der das KI-System entwickelt und auf den Markt bringt. Die Apotheke ist der Betreiber, wenn wenn sie dieses KI-System im eigenen Betrieb, etwa auf ihrer Website oder zur Kundenkommunikation, einsetzt.
»Durch die rasante Entwicklung generativer und interaktiver KI-Systeme wird es zunehmend schwieriger, Interaktionen mit KI und KI-generierte Inhalte von menschengemachten, authentischen Inhalten zu unterscheiden. Zudem sind Einzelpersonen immer häufiger – ohne ihr Wissen – Verfahren zur Emotionserkennung und biometrischen Kategorisierung ausgesetzt«, so die EU-Kommission. Dies berge neue Risiken für Desinformation und Manipulation in großem Maßstab, Betrug, Identitätsanmaßung und Verbrauchertäuschung.
Anbieter sind mit Artikel 50 der Verordnung nun verpflichtet, KI-Systeme so zu gestalten, dass Einzelpersonen ausdrücklich darüber informiert werden, wenn sie direkt mit einem KI-System interagieren. Dies kann auch Betriebe wie Apotheken betreffen, wenn sie beispielsweise einen KI-Chatbot oder ein anderes interaktives KI-System einsetzen. Zudem müssen maschinenlesbare Kennzeichnungen angebracht werden, die das Erkennen von KI-generierten oder manipulierten Inhalten ermöglichen. Letzteres bedeutet, dass auch technische Systeme erkennen müssen, dass bestimmte Inhalte von einer KI erstellt oder verändert wurden.
Auch müssen Betreiber die Nutzerinnen und Nutzer darüber informieren, wenn diese mit Deepfakes, mit Systemen zur Emotionserkennung oder biometrischen Kategorisierung sowie mit Textveröffentlichungen zu Themen von öffentlichem Interesse, die ohne menschliche Überprüfung oder redaktionelle Kontrolle erstellt wurden, in Berührung kommen.
Diese Verpflichtungen sollen das Vertrauen und die Integrität im Informationsökosystem stärken, so die EU-Behörde. »Die Menschen sollen wissen, wann sie mit KI interagieren oder KI-generierten Inhalten begegnen. Dies versetzt sie in die Lage, fundierte Entscheidungen zu treffen, ihr Vertrauen in KI angemessen einzuschätzen und sich vor Desinformation oder Täuschung zu schützen«, hieß es weiter.
Für die Durchsetzung dieser Vorschriften sind die nationalen Marktüberwachungsbehörden, insbesondere die Bundesnetzagentur sowie das AI Office der Europäischen Kommission und der Europäische Datenschutzbeauftragte zuständig.
Verstöße gegen die Transparenzpflichten nach Artikel 50 des EU AI Act können mit Geldbußen von bis zu 15 Millionen Euro geahndet werden. Bei Unternehmen kann die Geldbuße alternativ bis zu 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres betragen.
Um Organisationen dabei zu helfen, ihre Verpflichtungen aus der KI-Verordnung besser zu verstehen, stellt die Kommission verschiedene Instrumente bereit. Dazu gehören die Leitlinien, der Verhaltenskodex sowie der »AI Act Service Desk« als Informationsstelle, die klare Orientierungshilfen zur KI-Verordnung bieten soll.
Ein erster Teil des AI Act trat bereits am 2. Februar 2025 in Kraft: Artikel 4 der Verordnung verpflichtet Unternehmen, die KI-Systeme einsetzen, sicherzustellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen und entsprechend geschult werden. Das gilt auch für kleine Betriebe wie Apotheken. Apotheken müssen damit die Unterweisungspflicht beachten.
