Betrugsmasche

-

KI-Deepfakes werben für angebliche Medikamente

»Es ist ein ganz komisches Gefühl, sich selber zu hören und zu wissen, das habe ich nie gesagt. Und es ist gruselig, wie gut diese KI-Stimmen inzwischen sind, und wir sind erst am Anfang einer Entwicklung, wo es immer mehr darauf hinausläuft, dass wir nicht mehr unterscheiden können, was ist echt und was ist fake«. Das sagt der Arzt und Fernsehmoderator Eckart von Hirschhausen in einem MDR-Bericht über Werbung mit »Deepfakes«, vor der die Verbraucherzentralen seit vielen Monaten warnen.

Im vergangenen Jahr wurden rund 930 Millionen Euro durch diese Betrugsmasche erwirtschaftet, wie eine Studie des Cybersicherheitsunternehmens SurfShark herausfand, heißt es im MDR-Bericht. Auch die WDR-Doku »Deep Fake Mafia« befasste sich erst kürzlich mit der Problematik.

Kriminelle setzten gezielt auf bekannte Persönlichkeiten, um Vertrauen zu wecken und Seriosität vorzutäuschen, erklärte die Verbraucherzentrale Nordrhein-Westfalen. Namen wie Günther Jauch, Frank Thelen, Barbara Schöneberger oder Dieter Bohlen würden oft verwendet, um angebliche Erfolgsstories von Produkten glaubhaft erscheinen zu lassen.

In vielen Fällen wüssten die Prominenten nicht einmal, dass ihr Bild oder ihre Stimme für Deepfakes missbraucht wurde. Meistens handle es sich um tatsächlich ausgestrahlte Interviews in Talkshows, in denen der eigentliche Wortlaut durch gefälschte angebliche Aussagen durch eine mittels künstlicher Intelligenz (KI) erstellte, täuschend ähnliche Stimme ersetzt wurde.

Die Anzeigen würden oft zu echt aussehenden Internetseiten oder Fake-Shops führen, die auf den ersten Blick mit Logos, Kundenbewertungen oder angeblichen Presseberichten seriös wirkten. »Doch wer sich dort registriert oder etwas bestellt, riskiert viel: Häufig wird gar keine Ware geliefert, stattdessen drohen Datenmissbrauch, betrügerischer Telefonkontakt oder der Verlust von Geld – etwa durch Einzahlungen auf nicht existierende Konten«, warnt die Verbraucherzentrale.

Häufig verwende die Werbung Fake-Artikel in nicht existierenden Zeitschriften, gefälschte Zeitschriftenartikel oder Social-Media-Beiträge. Auch das Logo von Behörden, beispielsweise des Bundesinstituts für Arzneimittel und Medizinprodukte (BfArM), werde unzulässig genutzt. »Deutsche Behörden (und auch die Verbraucherzentralen) empfehlen niemals spezielle Produkte«, betont die Verbraucherzentrale NRW.

Auch das BfArM informierte darüber, dass immer wieder mit dem Logo des Instituts auf Social-Media-Plattformen oder illegalen Internet-Versandapotheken Produkte beworben würden oder eine Zertifizierung durch das BfArM behauptet werde. »Das BfArM wirbt weder für einzelne Produkte noch für Anbieter. Das Logo des BfArM wird in solchen Fällen missbräuchlich und ohne Freigabe verwendet. Gegen diese Verwendung geht das BfArM konsequent rechtlich vor«, hieß es seitens des Bundesinstituts.

Die Überwachung des Arzneimittelverkehrs sei eine Aufgabe der Bundesländer. Im Zusammenhang mit entsprechenden Internetangeboten seien Anfragen zur Überprüfung, Bewertung oder Nachverfolgung an die zuständigen Behörden der Länder zu richten. Die örtlich zuständigen Arzneimittel­überwachungs­behörden sind auf der Homepage der Zentralstelle der Länder für Gesundheitsschutz bei Arzneimitteln und Medizinprodukten (ZLG) zu finden, so das BfArM.

Die Verfolgung illegaler Arzneimittelangebote und illegaler Internetseiten liege im Zuständigkeits­bereich der Strafverfolgungs­behörden. »Sollten Sie auf einen vermutlich illegalen Anbieter aufmerksam geworden sein, können Sie diesen bei jeder Polizeidienststelle oder der Staatsanwaltschaft melden«, erklärt das Institut.

Besonders betroffen seien neben Finanzangeboten Gesundheits- und Lifestyle-Produkte, darunter Diätmedikamente mit angeblich sofortiger Wirkung, Nahrungsergänzungsmittel und Anti-Aging-Produkte.

Bisher bekannt gewordene Produktkategorien sind unter anderem Herz-Kreislauf-Nahrungsergänzungsmittel und Cholesterinsenker names »Capsules For Metabolism Support«, »Capsules For Metabolism SupportCardio Balance«, »CardiOne«, »CardioGenix«, »Cardiotensive«, »Cardiotens Plus«, »Cardiotonus«, »Cardirin Tropfen«, »Cardital«, »Dr. Cardio«.

Im Bereich Diabetes sind die Produktnamen unter anderem »ßetasulin«, »Blutix (Science Blend)«, »Curalis CBD«, »Diaform RX«, »Diaxil«, »Diaflex Forte«, »Insulinorm«, »Qyikey SMGT-GLP-1« Nanomikronadel-Pflaster gegen Diabetes, Fettleibigkeit und Herz-Kreislauf-Erkrankungen oder »Sugar Naturedrops – Ketone Liquid Drops«.

Zudem werden auch Produkte gegen Schwerhörigkeit, Rücken- und Gedächtnisprobleme, Krampfadern, Hautprobleme, Inkontinenz, Erektionsproblemen oder Prostatabeschwerden mit dubiosen Heilversprechen angeboten.

Laut Verbraucherzentrale gibt es oft Hinweise, die »Deepfakes« erkennen lassen: Unnatürliche Mimik oder Lippenbewegungen, die nicht ganz zum Gesagten passen, oder eine ungewöhnliche Stimme oder Betonung. Verdächtig seien außerdem fehlende Quellen, kein Link zu seriösen Medien oder offiziellen Social-Media-Kanälen, kein Impressum, ausländische Domains, viele Rechtschreibfehler oder übertriebene Versprechen.

Es gebe bereits erste Tools, Browser-Erweiterungen und Prüfmechanismen, die helfen können, Deepfake-Inhalte zu erkennen. Auch einige Plattformen würden daran arbeiten, verdächtige Videos automatisch zu kennzeichnen. Einen verlässlichen Schutz gebe es bislang jedoch nicht.

Eckart von Hirschhausen jedenfalls ging juristisch gegen den Facebook-Mutterkonzern Meta vor. Erst dann habe Meta eingeräumt, dass es sich um Fälschungen handelte, und sich verpflichtet, die Inhalte zu entfernen.