Risiken von Generativer KI im Gesundheitswesen

Um sichere und wirksame LMMs zu schaffen, betont die WHO die Notwendigkeit des Engagements verschiedener Interessengruppen: Regierungen, Technologieunternehmen, Gesundheitsdienstleister, Patienten und Zivilgesellschaft, in allen Phasen der Entwicklung und des Einsatzes solcher Technologien, einschließlich ihrer Aufsicht und Regulierung.

»Regierungen aller Länder müssen gemeinsam Anstrengungen unternehmen, um die Entwicklung und Nutzung von KI-Technologien wie LMMs wirksam zu regulieren«, betont Alain Labrique, WHO-Direktor für digitale Gesundheit und Innovation in der Wissenschaftsabteilung. Beispielsweise sollten Regierungen in gemeinnützige oder öffentliche Infrastruktur investieren oder diese bereitstellen, einschließlich Rechenleistung und öffentlicher Datensätze, die Entwicklern im öffentlichen, privaten und gemeinnützigen Sektor zugänglich sind und die von den Benutzern im Gegenzug die Einhaltung ethischer Grundsätze und Werte verlangt Zugang.

Zudem fordert die WHO die Regierungen auf, Gesetze, Richtlinien und Vorschriften zu nutzen, um sicherzustellen, dass LMMs und Anwendungen, die im Gesundheitswesen und in der Medizin eingesetzt werden, unabhängig von den mit der KI-Technologie verbundenen Risiken oder Vorteilen ethischen Verpflichtungen und Menschenrechtsstandards entsprechen.

Weiterhin wird in dem WHO-Bericht deutlich, dass Entwickler von LMMs sicherstellen sollten, dass nicht nur Wissenschaftlern und Ingenieuren bei der Entwicklung dieser Technologie einbezogen werden sollten, sondern auch potenzielle Nutzer und Interessengruppen.