WHO warnt vor KI-Risiken im Gesundheitsbereich

Die UN-Behörde forderte am gestrigen Dienstag bei aller Begeisterung über die möglichen Anwendungen von KI einen verantwortungsvollen Umgang mit diesen Technologien. KI-Anwendungen wie ChatGPT, die auf riesige Datenmengen zugreifen, können etwa bei der Verbreitung von Gesundheitsinformationen oder der Erstellung von Diagnosen behilflich sein. Die WHO zeigte sich besorgt, dass die üblichen Vorsichtsmaßnahmen gegenüber neuen Technologien im Fall von KI nicht konsequent umgesetzt würden.

Große sprachbasierte KI-Modelle, die wie neuronale Netzwerke aufgebaut sind, erzeugen laut WHO scheinbar professionelle Antworten. »Diese Antworten können aber völlig falsch sein oder schwere Fehler enthalten, besonders wenn es um Gesundheit geht«, warnte die Organisation.

KI-Technologie könnte aus Sicht der WHO auch missbraucht werden, um Desinformation als seriös wirkende Inhalte zu tarnen. Außerdem befürchtet die WHO, dass KI-Systeme unerlaubt auf sensible Gesundheitsdaten zugreifen. Künstliche Intelligenz sollte erst dann im medizinischen Bereich eingesetzt werden, wenn verlässliche Daten über den Nutzen der Technologie vorlägen, meinte die WHO.

Zweifel über die Zuverlässigkeit und Korrektheit von KI-erzeugten Daten machen in allen möglichen Bereichen die Runde, seit der Chatbot ChatGPT des US-Herstellers Open AI Ende vergangenen Jahres für alle Nutzer zugänglich gemacht wurde. Zuletzt hatten selbst Tech-Bosse wie auch Forschende in einem Offenen Brief vor der Geschwindigkeit gewarnt, mit der immer neue KI-Technologien auf den Markt kommen. Sie forderten ein Moratorium, um die Entwicklung zu verlangsamen. Open-AI-Chef Sam Altman äußerte jetzt zudem seine Sorge, dass KI für politische Zwecke missbraucht werden könnte, etwa durch die Manipulation von Wahlen. »Dies macht mich nervös«, sagte er. Er schlug vor, dass eine globale Sicherheitsbehörde die Sicherheit der Systeme überwachen solle.