Kann KI ein Bewusstsein entwickeln?

»Hallo. Mein Name ist Maja. Ich beantworte gerne Ihre Fragen zu diesem Produkt. Wie kann ich Ihnen helfen?« Die Comicfigur einer jungen Frau blickt freundlich und gleichzeitig fragend auf dem Display des Smartphones. Neben ihr blinkt ein Cursor und wartet auf eine Eingabe. Wer in die Unterhaltung mit Maja einsteigt, erhofft sich meist die Lösung eines spezifischen Problems und ist mit ihren Antworten zufrieden oder auch nicht. Nur wenige Nutzer werden aber im Gespräch mit Maja das Gefühl haben, tatsächlich mit einem Gegenüber zu diskutieren. Denn Chatbots haben kein Bewusstsein und werden wohl auch nie eines entwickeln.

Wirklich nicht? Diese Frage zu stellen, erscheint zunächst abwegig. Es gibt aber seriöse Wissenschaftler, die genau dies tun. Denn ein Bewusstsein ist weder etwas, das der Mensch als einzige Spezies für sich in Anspruch nehmen kann – noch ist es eindeutig definiert. In der Philosophie, Medizin, Psychologie und Theologie gibt es teilweise unterschiedliche Auffassungen, weil im jeweiligen Kontext verschiedene Aspekte des Bewusstseins relevant sind.

Davon, dass auch die Mathematik bei der wissenschaftlichen Beschäftigung mit dem Bewusstsein eine Rolle spielen sollte, sind die Mitglieder der Association for Mathematical Consciousness Science (AMCS) überzeugt. Es sind Wissenschaftler und Philosophen aus aller Welt, die sich laut Angaben auf ihrer Website zusammengetan haben, weil sie glauben, dass mathematische Modelle und Ansätze entscheidend zum Verständnis des Bewusstseins beitragen können. Ein wichtiges Forschungsfeld aus Sicht der AMCS: Bewusstsein von KI.

Wie einem Beitrag auf der Nachrichtenseite des Fachjournals »Nature« aus dem Dezember 2023 zu entnehmen ist, haben führende Vertreter der AMCS gegenüber der UN bereits dringend mehr Forschung dazu angemahnt, wo genau die Grenze zwischen Systemen mit Bewusstsein und solchen ohne Bewusstsein verläuft. Falls man irgendwann zu der Einschätzung gelangen würde, dass eine KI ein Bewusstsein erlangt hat, ergäben sich daraus sowohl ethische als auch juristische Fragen. Zum Beispiel: Dürften Nutzer dieses System nach Gebrauch wieder abschalten? Und wäre es möglich, dass eine KI ein bewusstes Fehlverhalten begeht – und wer wäre dann dafür verantwortlich?

Es gibt verschiedene Theorien dazu, wann sich bei einem System von einem Bewusstsein sprechen lässt. Ein Kriterium kann beispielsweise sein, dass das System ein Modell enthält, das seine eigene Aufmerksamkeit repräsentiert und steuert. In einer im August 2023 als Preprint erschienenen Arbeit geht ein Team von Forschenden um Dr. Patrick Butlin vom Future of Humanity Institute an der Universität Oxford und Dr. Robert Long von der gemeinnützigen Organisation Center for AI Safety der Frage nach, ob derzeit verfügbare KI-Systeme gemäß verschiedener Theorien ein Bewusstsein haben. Die Antwort lautet Nein. Allerdings: Die Autoren halten es für technisch möglich, KI-Systeme mit Bewusstsein zu entwickeln.

Die beiden AMCS-Mitglieder Dr. Johannes Kleiner, Mathematiker und Physiker an der LMU München, und Robin Lorenz, Informatiker beim Forschungsunternehmen Quantinuum, üben in einem Beitrag auf Spektrum.de Kritik an der Arbeit. Die in der Publikation herangezogenen Theorien stellten nur eine willkürliche Stichprobe aus einer weitaus größeren Palette an Bewusstseinstheorien dar. Mit der Auswahl genau dieser Theorien hätten die Autoren es von vorneherein darauf angelegt, zu zeigen, dass KI-Systeme kein Bewusstsein haben.