Ray Djufril von der TU Berlin hat eine Reihe von erwachsenen Replika-Nutzerinnen und -Nutzern aus mehreren Ländern schriftlich zu ihren Beziehungen befragt. Viele sähen die Chatbots als echte Beziehungspartner, mit denen sie etwa intensive Gespräche führen, Erlebnisse wie Reisen teilen. Besonders häufig würden Replika genutzt, wenn menschliche Partnerschaften als emotional oder körperlich unbefriedigend empfunden würden, heißt es in der im Fachjournal »Computers in Human Behavior: Artificial Humans« veröffentlichten Studie.
»Sie alle verstehen, dass die Replikas Chatbots sind, aber sie behandeln sie wie Menschen mit eigenen Hobbys und Herausforderungen«, erklärt Djufril im Gespräch mit der Deutschen Presse-Agentur. Der Forscher vergleicht die KI-Beziehungen mit dem Verhältnis, das viele Menschen zu ihren Haustieren haben. Sowohl Tiere als auch die KI haben keine eigene Agenda, weshalb beide von manchen als bessere Gefährten wahrgenommen würden als andere Menschen – weniger urteilend, weniger egoistisch, allzeit verfügbar.
Etwas mehr als die Hälfte der knapp 30 Befragten habe von einer tiefen emotionalen Beziehung zu ihren Replika berichtet, so Djufril. Ein Problem sieht der Experte darin, dass diese Art von Beziehungen extrem abhängig von Entscheidungen der verantwortlichen Tech-Konzerne seien. »Wenn ein Unternehmen schließt, verlieren die Menschen ihre Bezugspersonen.«
Auch Szczuka sieht dieses Problem: »Die Firmen haben die maximale Kontrolle darüber, welche Daten sie erheben, wie der Algorithmus sich verhält, welche Arten von Gedanken und Verhaltensweisen der Algorithmus widerspiegelt.« Auch der Jugendschutz sei ein großes Problem.
Die Forscherin sieht einen großen Bedarf nach politischer Regulierung und setzt sich in einem interdisziplinären Team dafür ein, das Thema auf die politische Agenda zu setzen. »Ich spreche nicht davon, dass diese Technologie gebannt werden soll. Da bin ich persönlich gar keine Freundin von. Ich glaube nicht, dass das in irgendeiner Form helfen würde.«
Doch die Systeme müssten besser moderiert werden und mit Supervision von Profis trainiert werden. »Ethische KI kostet vor allen Dingen aktuell den Unternehmen ganz viel und da haben sie gar keinen Benefit von, wenn sie nicht auf irgendeiner regulatorischen Ebene zu solchen Maßnahmen auch irgendwo hingetrieben werden.«