AI Act und MDR– viele Probleme und Fragezeichen

Ein KI-System, das zur Erstellung von Arztbriefen verwendet wird, würde gemäß MDR wohl in die Risikoklasse I eingeordnet und nur geringe Kontrollen erfordern. Dieser Einschätzung folgt grundsätzlich auch der AI Act, sofern keine Zertifizierungen durch externe Stellen notwendig sind. Doch in diesem Fall liegt die Herausforderung laut der Studie darin, sicherzustellen, dass der Einsatz der Arztbrief-KI nicht indirekt in medizinische Entscheidungen eingreift. »Damit entsteht ein Graubereich, in dem Hersteller nachweisen müssen, dass die KI keine wesentlichen medizinischen Entscheidungsprozesse beeinflusst«, schreibt Hacker. Dies führe letztlich zu Unsicherheiten in der Einstufung nach MDR und AI Act.

Im Gegensatz dazu wirkt ein KI-gestützter Terminkalender angesichts der Anforderungen zunächst als eindeutig einstufbar. Doch ist er mit einem Algorithmus ausgestattet, der eine automatische Priorisierung basierend auf medizinischen Daten vornimmt, sieht das schon wieder ganz anders aus. Denn was Triage betrifft, greifen zumindest bei der Notfallversorgung sowohl im AI Act als auch der MDR strengere Vorschriften. Gelten diese aber auch für den regulären Praxisbetrieb?

Das Fazit der Studie: Der AI Act ergänzt zwar sektorale Regelungen und weitere Digitalgesetze, ist jedoch nur unzureichend auf diese abgestimmt. »Kurzfristig muss eine bessere Verzahnung bestehender Regelwerke erfolgen, um Doppelungen zu vermeiden und die Effizienz zu steigern«, heißt es. Auch mittel- und langfristige Handlungsempfehlungen zielen darauf ab, die KI-Verordnung zu vereinfachen, Kooperationen zu verstärken sowie evidenzbasierte Evaluationen zu ermöglichen.

Ressourcen zu sparen ist auch deshalb angezeigt, weil der AI Act aufgrund seiner internationalen Reichweite alle 690 in den USA bei der Food and Drug Administration (FDA) zugelassenen Medizinprodukte-Anbieter betreffen würde. Von diesen seien fast alle auch in der EU aktiv, hebt Hacker hervor.

Generell kann die Umsetzung des AI Acts laut Bertelsmann Stiftung nur dann gelingen, wenn alle relevanten Akteure in Europa und den Mitgliedstaaten – von Gesetzgebern und Aufsichtsbehörden bis hin zu Unternehmen und der Zivilgesellschaft – gemeinsam am Puzzlebild arbeiten.