KI-Deepfakes

-

Echt beraten statt digital getäuscht

»Da wird nicht nur ein Gesicht geklaut, da wird Vertrauen geklaut«: So führte Moderatorin Yara Hoffmann in das schwierige Thema KI-Deepfakes ein. »Vertrauen, dass ein Arzt, eine Ärztin, dass Wissenschaftler, Journalisten und Redaktionen teilweise über Jahrzehnte aufgebaut haben. Und am Ende geht es natürlich auch nicht nur um eine Vertrauensfrage, sondern um unsere Gesundheit und im schlimmsten Fall um unser Leben.«

Expertinnen und Experten sowie Betroffene analysierten das Thema KI-manipulierte Inhalte heute bei einer Veranstaltung des Wort & Bild Verlags. Dieser hat gemeinsam mit der Apotheken Umschau die Initiative #StopFakeMeds ins Leben gerufen, um über medizinische Deepfakes und gesundheitsgefährdende Desinformation aufzuklären.

»Wir sprechen nicht über Einzelfälle, sondern über mehr als 100.000 irreführende Anzeigen und Inhalte mit Reichweite von über 100 Millionen Views«, sagte Andreas Arntzen, CEO des Wort & Bild Verlags, Verleger und Tech-Gründer. »Die Entwicklung im Digitalen ist exponentiell und wir können davon ausgehen, dass sich diese Zahlen innerhalb weniger Monate schon verdoppeln.« Arntzen sprach von einem riesigen gesellschaftlichen Problem, das nicht nur gesundheits- sondern auch demokratiegefährdend sei. »Das ist nur der Beginn einer dramatischen Entwicklung und dem müssen wir gegenwirken. Das können wir am besten über Aufklärung und über politischen Druck. Ich glaube, dass Brüssel da einfach aktiv werden muss.«

Laut Verbraucherzentralen nimmt der Betrug durch KI-Deepfake-Videos von Prominenten immer mehr zu. Dabei geht es auch um Werbung für angebliche Medikamente gegen Diabetes, Schwerhörigkeit, Rücken- und Gedächtnisprobleme oder Prostatabeschwerden. Kriminelle setzten gezielt auf bekannte Persönlichkeiten, um Vertrauen zu wecken und Seriosität vorzutäuschen. In vielen Fällen wissen die Prominenten nicht einmal, dass ihr Bild oder ihre Stimme für Deepfakes missbraucht wurde.

Schon im Mai machte Eckardt von Hirschhausen darauf aufmerksam, dass illegale Gesundheitswerbung die Patientensicherheit gefährde und das Vertrauen in medizinische Informationen und in die Demokratie untergrabe. Digitale Plattformen und KI-Technologien beschleunigen die Verbreitung solcher Inhalte. Heute hob er zudem als selbst Betroffener die Dimension des Identitätsmissbrauchs und das dahinterstehende Geschäftsmodell hervor. Nicht nur Gesundheit werde durch die KI-Deepfakes zerstört, sondern in seinem Fall auch seine eigene Identität. Andere würden mit seinem über Jahrzehnte aufgebauten Vertrauen Geschäfte machen. »Und wer mitverdient, sind Meta und Google.«

Als Einzelner sei man relativ chancenlos, so von Hirschhausen. »Die großen Plattformen wären technologisch durchaus in der Lage, das zu stoppen. Sie tun es nicht.« Er wünscht sich, dass das Fälschen von echten Menschen genauso akribisch verboten und verfolgt werde wie das Fälschen von Geldscheinen. 

»Die Sehnsüchte, der Schmerz, die Verzweiflung von Menschen auszunutzen auf der Suche nach Heilung ist das Mieseste, was man machen kann. Wir denken immer: ›Ach, das ist ja nur digital. Das hat aber echte Konsequenzen‹«, kritisierte er. Denn auch gefälschte Medikamente hätten echte Nebenwirkungen. »Wir brauchen echte Gesundheitsinformationen, wir brauchen echte Menschen«, sagte er und fügte hinzu: »Wir müssen jetzt zusammenhalten, weil es wirklich um Menschenleben geht.«

Die große Chance bestehe darin, den Wert von einem »Check im analogen Leben« wiederzuentdecken: »Das ist auch der große Punkt, was Apotheken und Apothekerinnen haben, weil da kannst du 24-7 einen echten Menschen treffen.« Und er beschreibt, wie dieser Check praktisch funktionieren könnte: »Da kannst du, bevor du was im Internet bestellst, mal kurz fragen: ›Haben Sie eigentlich von dem Wundermittel gehört, das er gerade bewirbt?‹« Sein Appell: Immer wenn man unsicher sei und bevor man seine E-Mail-Adresse, Kreditkartennummer oder Telefonnummer eingebe, solle man einen Arzt oder Apotheker fragen.

Die Ärztin, Journalistin, Moderatorin und Medfluencerin Julia Fischer hob hervor, dass Gesundheitsinformationen aus sozialen Medien nicht ungeprüft übernommen werden sollten. Man dürfe Informationen nicht aus einer einzigen Quelle übernehmen, sondern müsse prüfen: »Was sagen Fachgesellschaften, was sagt der Arzt, der Apotheker?«

Auch sie ist Betroffene und erzählte: »Ich wusste am Anfang nicht, soll ich lachen oder weinen? Ich dachte: Es kann doch nicht sein, dass jemand das glaubt.« Doch für sie sei auch die größere Dimension sehr belastend gewesen, »dass man Bestandteil wird von etwas, was Vertrauen missbraucht und zerstört, was am Ende tatsächlich demokratiegefährdend ist.«

Klaus Reinhardt, Präsident der Bundesärztekammer, sieht den persönlichen Arztkontakt als wichtiges Gegengewicht zu digitalen Fakes. Gerade der persönliche Arztbesuch könne wieder an Bedeutung gewinnen: »Ein Arzt, den ich aufsuchen kann, es gibt ein Schild an der Tür, oder es gibt ein Krankenhaus, in das ich gehe. Das weiß ich, ich sehe den Menschen.«

Für die ärztliche Arbeit sei vor allem die Desinformation problematisch. Ärztinnen und Ärzte müssten diese falschen Informationen aus dem Weg räumen. Reinhardt sieht auch Bedarf an verlässlichen digitalen Angeboten: Es müsse ein Angebot geben, was von Krankenkassen, vom Gemeinsamen Bundesausschuss getragen und bei dem jeder wisse, was darin enthalten sei, »validiert und safe«.

Anna-Lena von Hodenberg (Mitbegründerin von HateAid) kritisiert, dass eine ganze Industrie von den Fakes profitiere: »Nicht nur Meta und Google, sondern auch die Hosting-Anbieter. Überall, wo das angezeigt wird, gibt es eine ganze Industrie, die da mitverdient.« Für Betroffene sei die Situation besonders schwierig, weil die Plattformen nicht verpflichtet seien, Inhalte selbstständig zu suchen und zu löschen. Stattdessen müsse die Person, deren Identität gestohlen wurde, die Inhalte selbst finden und melden.

Ihr konkreter Rat an Betroffene: »Das allererste ist eigentlich Beweisung zu sichern. Der erste Schritt muss eigentlich sein, eine Strafanzeige zu stellen.« Gleichzeitig warnt sie vor der derzeitigen Situation: »Ich kenne keinen Fall, wo wir es geschafft haben, alle Inhalte aus dem Internet zu löschen. Ist es einmal drin, ist es dort.« Deshalb brauche es politischen Druck und öffentliche Aufklärung. Wichtig sei, dass Menschen über das Thema breit informiert werden, sowohl in den sozialen Netzwerken als auch in den etablierten Medien, um geschützt zu werden.