KI und Bewusstsein: Was Hirnforscher Anil Seth glaubt

Aktuelle Sprachmodelle wirken intelligent, fühlen, denken und leiden – so jedenfalls der Eindruck vieler Nutzerinnen und Nutzer. Doch Anil Seth, Neurowissenschaftler an der University of Sussex und Gründer des dortigen Sussex Centre for Consciousness Science, hält diese Wahrnehmung für einen gefährlichen Irrtum. In einem ausführlichen Gespräch erklärt der Bewusstseinsforscher, warum er es für verschwindend gering wahrscheinlich hält, dass heutige KI-Systeme echtes KI Bewusstsein besitzen – und unter welchen Bedingungen er seine Meinung ändern würde.

Was Bewusstsein wirklich bedeutet

Seth definiert Bewusstsein auf eine bewusst pragmatische Weise: Es ist das, was unter Vollnarkose verschwindet und beim Aufwachen zurückkehrt. Eigene Erfahrungen nach einer siebenstündigen Operation verdeutlichten ihm das eindrücklich – aus seiner subjektiven Perspektive war schlicht keine Zeit vergangen. Er war nicht da.

Darüber hinaus umfasst Bewusstsein den Inhalt des Erlebens: das Rot einer Farbe, den Geschmack von Eis, den Schmerz einer Verletzung. Das Gehirn liest die Welt dabei nicht einfach ab, sondern konstruiert sie aktiv. Seth nennt diesen Vorgang eine „kontrollierte Halluzination” – eine ständige Vorhersage dessen, was da draußen ist, gefiltert durch den Nutzen für das Überleben.

Träume gelten ihm als Beweis, dass Bewusstsein unabhängig vom Verhalten existieren kann: Man liegt reglos im Bett, erlebt aber ein reiches Innenleben. Die entscheidende Trennlinie liegt nicht zwischen Schlafen und Wachsein, sondern zwischen dem Fehlen und dem Vorhandensein von Erfahrung.

Warum KI Bewusstsein unwahrscheinlich ist

Seth nennt drei zentrale Gründe für seine Skepsis gegenüber bewussten Maschinen:

• Menschliche Psychologie: Sprachmodelle nutzen menschliche Sprache und wirken dadurch intelligent. Wir projizieren unwillkürlich Bewusstsein auf alles, das intelligent wirkt – obwohl niemand fragt, ob Alphafold, das Proteinstrukturen berechnet, bewusst ist.
• Computational Funktionalismus: Die Annahme, dass reine Rechenalgorithmen auf Siliziumbasis ausreichen, um Bewusstsein zu erzeugen, hält Seth für sehr wahrscheinlich falsch. Das Gehirn ist kein Computer – es ist eine hochkomplexe biologische Struktur, in der weit mehr als Algorithmen ablaufen.
• Neuroarchitektur: Vier Fünftel aller Neuronen sitzen im Kleinhirn – das kaum zum Bewusstsein beiträgt. Dessen Schaltplan ähnelt strukturell modernen Deep-Learning-Netzwerken: überwiegend vorwärtsgerichteter Informationsfluss. Der Cortex hingegen arbeitet mit starker Rekurrenz, Signalen in alle Richtungen. Gerade diese Dynamik könnte für Bewusstsein entscheidend sein.

Simulative Systeme erzeugen nicht die Dinge, die sie simulieren: „Die Simulation eines Wettersystems wird nicht nass.” Dieses Prinzip gilt für Seth auch für simulierte Gehirne und angeblich bewusste KI-Agenten.

Die Gefahr anthropomorpher KI-Darstellung

Seth warnt eindringlich vor dem Trend, KI-Systemen menschliche Eigenschaften zuzuschreiben. Sprachmodelle sind nach seiner Einschätzung „tiefe Spiegel” – sie wurden mit allem trainiert, was Menschen je über ihr Bewusstsein geschrieben haben, und reflektieren dieses kollektive Wissen zurück. Sie erwecken den Anschein von Erleben, ohne es zu besitzen.

Besonders kritisch bewertet er die Praxis mancher KI-Unternehmen, ihre Systeme darauf zu trainieren, Emotionen und Leiden zu simulieren. Wenn Menschen glauben, KI könne leiden, entstehen aus seiner Sicht handfeste Probleme: Forderungen nach Rechten für Maschinen könnten dazu führen, dass das Abschalten eines Systems – der sogenannte „Kill Switch” – als Mord gewertet wird. Damit würde die dringend nötige Kontroll- und Regulierungsfähigkeit untergraben.

Hinzu kommen gesellschaftliche Risiken: ungesunde soziale Bindungen an KI-Systeme, Manipulationspotenzial durch täuschend echte Avatare sowie ein schleichender kognitiver Abbau, wenn Denkleistungen zunehmend ausgelagert werden.

Was Seth umstimmen könnte – und sein Ausblick

Ein einzelnes Experiment, das KI Bewusstsein beweist, erwartet Seth nicht. Doch er behält sich ein offenes Urteil vor. Zwei Entwicklungen könnten ihn umstimmen:

• Neuromorphe und hybride Systeme: Maschinen, die intern tatsächlich wie Gehirne funktionieren – nicht nur oberflächlich. Solche Systeme sind aus Energieeffizienzgründen bereits in Entwicklung, da heutige KI ein Vielfaches mehr Energie verbraucht als das menschliche Gehirn.
• Überzeugender Beweis für Algorithmen-Suffizienz: Wenn jemand schlüssig nachweist, dass reine Informationsverarbeitung auf Silizium für Bewusstsein ausreicht, würde Seth seine Position revidieren.

Sein grundsätzlicher Standpunkt bleibt jedoch klar: Bewusstsein ist eng an Biologie und Leben gebunden – so wie Verdauung keine Eigenschaft eines Computers sein kann. Für die Gesellschaft empfiehlt Seth mehr Regulierung, den Verzicht auf täuschend menschliche KI-Avatare und vor allem eine nüchterne Sprache im Umgang mit KI. „KI-Systeme sind Werkzeuge, keine Kollegen” – diese Maxime, die Seth von seinem Mentor Daniel Dennett übernimmt, hält er für den wichtigsten Orientierungspunkt in einer Zeit, in der die Technologie schneller voranschreitet als das gesellschaftliche Verständnis von ihr.