Vorsicht bei KI-Diagnosen

Warum zittert mein Augenlid? Was hilft gegen Verstopfung? Wer seine Beschwerden vor ein, zwei Jahren noch in die Suchmaschine eingegeben hat, nutzt jetzt womöglich die KI für eine erste Orientierung. Klar ist aber: Den Besuch beim Arzt oder der Ärztin kann der Chatbot nicht ersetzen. Und eine gute Portion Vorsicht ist angesagt. Auch wenn es um Gesundheitsfragen geht, sind die KI-Antworten nicht immer vertrauenswürdig, warnt die Stiftung Gesundheitswissen.

Dafür muss man verstehen, wie die Künstliche Intelligenz vorgeht: Chatbots sammeln Informationen von verschiedenen Webseiten sowie aus digitalisierten Artikeln, Büchern und mehr. Den Inhalt an sich versteht die KI nicht, aber sie kann Wahrscheinlichkeiten errechnen, um möglichst sinnvoll klingende Wortfolgen zu erzeugen. Dabei kann es dazu kommen, dass auch falsche Antworten generiert werden. Denn eine Prüfung auf Korrektheit gibt es nicht – die muss man als Nutzer oder Nutzerin selbst übernehmen.

Existieren die gewünschten Informationen überhaupt nicht im Web, so erstellt die KI in einigen Fällen einfach selbst plausibel klingende Antworten, die aber frei erfunden sind, erklärt die Stiftung Gesundheitswissen. Auch kann der Wissensstand des Chatbots veraltet sein.

Wer auf Nummer sichergehen will, kann bei der Recherche mit KI diese Dinge beachten:

• Antworten erst einmal kritisch gegenlesen. Bei Zweifeln sollte man Nachfragen an den Bot stellen.
• »Aus welchen Quellen stammen die Informationen?« Auch das kann man den Chatbot fragen. Im nächsten Schritt lässt sich checken, ob die Quellen überhaupt existieren oder ob sie seriös sind.
• Ebenso kann es helfen, die Infos mit anderen vertrauenswürdigen Quellen abzugleichen.
• Ein weiterer Tipp: den Chatbot dazu auffordern, die Qualität seiner Antwort selbst zu beurteilen. Fragen kann man etwa, wie hoch die Wahrscheinlichkeit ist, dass sie tatsächlich zutrifft.