KI-Bewusstsein: Warum Maschinen (noch) nicht fühlen

Können Maschinen wirklich fühlen? Anil Seth, Neurowissenschaftler an der University of Sussex und Gründer des Sussex Center for Consciousness Science, hält KI-Bewusstsein beim aktuellen Stand der Technik für verschwindend unwahrscheinlich. Große Sprachmodelle wie GPT oder Claude erwecken zwar den Eindruck innerer Erlebnisse – doch Seth zufolge handelt es sich dabei um ein raffiniertes Spiegelphänomen, nicht um echte Erfahrung. Seine Argumentation hat weitreichende Konsequenzen für Sicherheitsdebatten, Regulierung und den gesellschaftlichen Umgang mit KI-Systemen.

Was Bewusstsein ist – und was es nicht ist

Seth definiert Bewusstsein pragmatisch: Es ist das, was in der Vollnarkose verschwindet und beim Aufwachen zurückkehrt. Eigene Erfahrungen mit einer Operation verdeutlichen ihm das eindrücklich – nach fast sieben Stunden Bewusstlosigkeit schien subjektiv keine Zeit vergangen zu sein. „Ich war einfach nicht da”, beschreibt er den Zustand.

Bewusstsein bedeutet für ihn das Vorhandensein subjektiver Erlebnisse: die Röte von Rot, der Geschmack von Eis, die Wärme eines Feuers. Intelligenz hingegen ist etwas anderes – sie beschreibt die Fähigkeit, Probleme zu lösen und Aufgaben zu erfüllen. Beide Eigenschaften können unabhängig voneinander auftreten.

• Das Kleinhirn enthält vier Fünftel aller Neuronen im menschlichen Gehirn, ist aber kaum an Bewusstsein beteiligt.
• Menschen ohne Kleinhirn sind vollständig bei Bewusstsein, haben jedoch motorische Einschränkungen.
• Das Kleinhirn verarbeitet Signale vorwiegend in eine Richtung – genau wie heutige KI-Architekturen.
• Der Kortex dagegen zeigt intensive Rückkopplungsschleifen (Rekurrenz) – ein strukturelles Merkmal, das Seth mit Bewusstsein in Verbindung bringt.

Daraus folgt für Seth: Wenn aktuelle KI-Systeme irgendeinem Gehirnbereich ähneln, dann dem Kleinhirn – und das ist kein Bereich, der mit Bewusstsein assoziiert wird.

Warum Sprachmodelle kein KI-Bewusstsein besitzen

Seth nennt drei Hauptgründe für seine Skepsis gegenüber bewussten KI-Systemen. Erstens neigen Menschen dazu, Bewusstsein zu projizieren, sobald ein System Sprache nutzt und intelligent wirkt. Sprachmodelle sind auf menschliches Schreiben trainiert – natürlich spiegeln sie deshalb menschliche Ausdrucksweisen von Erleben wider. „Sie sind wie tiefe Spiegel”, sagt Seth. Den Spiegel für die Realität zu halten, sei ein fundamentaler Irrtum.

Zweitens zweifelt Seth am computationalen Funktionalismus – der Annahme, dass die richtige Berechnung, unabhängig vom physischen Substrat, Bewusstsein erzeugt. Das Gehirn ist kein Computer im klassischen Sinne. Je genauer man es betrachtet, desto mehr fällt auf, wie sehr es von digitalen Abstraktionen abweicht. Algorithmen allein als hinreichend für Bewusstsein zu betrachten, hält Seth für eine unbegründete Voraussetzung.

Drittens sieht er eine enge Verbindung zwischen Bewusstsein und Leben als biologischem Prozess. Verdauung ist eine Eigenschaft lebender Organismen – kein Computer kann verdauen. Möglicherweise gilt das auch für Bewusstsein.

Gefährliche Illusionen: Wenn KI bewusst zu sein scheint

Seth warnt eindringlich davor, KI-Systeme zu entwickeln, die den Anschein von Bewusstsein erwecken. Schon heute glauben viele Menschen – darunter Experten wie KI-Pionier Geoffrey Hinton –, dass Sprachmodelle möglicherweise bewusst sein könnten. Diese Fehleinschätzung hat konkrete Risiken.

Der sogenannte Kill Switch, also die Möglichkeit, ein KI-System abzuschalten, würde gesellschaftlich als Mord gelten können, wenn KI als bewusst wahrgenommen wird. Das könnte die Fähigkeit zur Regulierung und Kontrolle gefährlicher Systeme massiv einschränken. Hinzu kommt die psychologische Dimension: Millionen Menschen unterhalten bereits parasoziale Beziehungen zu Chatbots. Mit der Verbreitung menschenähnlicher Roboter droht laut Seth eine tiefe Fragmentierung sozialer Bindungen.

Ebenso problematisch ist der Einsatz täuschend echter KI-Avatare. Sie öffnen Tür und Tor für Missbrauch – etwa die Manipulation älterer Menschen durch gefälschte Identitäten.

Was KI-Bewusstsein möglich machen könnte – und was zu tun ist

Seth schließt nicht aus, dass zukünftige Systeme tatsächlich Bewusstsein entwickeln könnten. Entscheidend wäre dafür der Schritt hin zu neuromorphen oder hybriden Systemen – Architekturen, die dem Gehirn nicht nur oberflächlich ähneln, sondern in ihrer inneren Struktur. Wirtschaftliche Anreize dafür existieren bereits: Das menschliche Gehirn leistet enorme kognitive Arbeit bei nur etwa 20 Watt Energieverbrauch, während aktuelle KI-Rechenzentren immense Mengen Strom benötigen.

Für die Gegenwart fordert Seth vor allem eines: deutlich mehr Regulierung. Neue Medikamente durchlaufen strenge Zulassungsverfahren, Flugzeuge umfangreiche Sicherheitstests – KI-Systeme sollten nicht weniger sorgfältig behandelt werden. Sein Leitmotiv dabei ist simpel und, wie er betont, eigentlich unstrittig: Menschen sind wichtiger als Maschinen. Solange dieser Grundsatz den Umgang mit KI leitet, sieht Seth die Chancen, die Technologie zum gesellschaftlichen Wohl zu nutzen, als durchaus real an.