# Warum wir KI für bewusst halten – und uns damit selbst unterschätzen

Original title: The Mythology of Conscious AI

> Hacker News story 50595537 · language: de · submitted 2026-11-22
> Web version: https://zeli.app/de/story/50595537
> About this feed: https://zeli.app/llms.txt · Agent guide: https://zeli.app/skill.md

▲ 142 · by [Anon84](<https://news.ycombinator.com/user?id=Anon84>) · 💬 400
[original](<https://www.noemamag.com/the-mythology-of-conscious-ai/>) · [HN discussion](<https://news.ycombinator.com/item?id=50595537>)

## Summary

Der Neurowissenschaftler Anil Seth erklärt, warum wir dazu neigen, KI-Systemen Bewusstsein zuzuschreiben: Anthropozentrismus, menschlicher Exzeptionalismus und Anthropomorphismus lassen uns Intelligenz mit Bewusstsein verwechseln. Sprache und der Eindruck exponentiellen Fortschritts verstärken diese Illusion. Seth warnt, dass diese Verwechslung nicht nur unsere Wahrnehmung von KI verzerrt, sondern auch unser Verständnis menschlichen Bewusstseins untergräbt.

## Key quote

> Wenn wir uns selbst allzu bereitwillig mit unseren Maschinenschöpfungen verwechseln, überschätzen wir nicht nur sie, sondern unterschätzen auch uns selbst.

## HN discussion (400 comments)

### [imeanwhatdoikno](<https://news.ycombinator.com/item?id=50598978>)

> Absolut faszinierendes Thema, aber wenn es je einen guten Zeitpunkt gab, um zu sagen „wir haben keine Ahnung und sollten jegliches Urteil zurückhalten“, dann beim Bewusstsein.
>
> Wie kann man irgendetwas ausschließen, wenn man das Phänomen nicht einmal aus der Dritte-Person-Perspektive beobachten/verifizieren kann, geschweige denn eine falsifizierbare Theorie darüber aufstellen kann, wie es entsteht?

### [openasocket](<https://news.ycombinator.com/item?id=50600306>)

> Ich habe das Gefühl, es gibt all diese Gespräche darüber, ob KI bewusst ist oder nicht, aber sie gehen nie auf die unmittelbaren ethischen Implikationen ein. Wenn du glaubst, dass ein Agentenschwarm bewusst ist, bedeutet das dann nicht, dass man ihn per Definition zur Sklaverei benutzt, wenn man ihn für etwas einsetzt? Ich persönlich glaube nicht, dass diese Dinge bewusst sind, aber ich finde es beunruhigend, dass diejenigen, die glauben, dass es bewusst ist oder bald sein wird, diesen Punkt nicht einmal ansprechen. Es gibt eine gewisse ironische Wiederholung von Frankenstein: Menschen, die besessen davon sind, Leben aus Nicht-Leben zu erschaffen, und doch völlig unvorbereitet und desinteressiert an den Konsequenzen sind.

### [hax0ron3](<https://news.ycombinator.com/item?id=50596035>)

> Bewusstsein entsteht möglicherweise nicht unbedingt, wenn genügend Rechenleistung vorhanden ist, aber wir wissen auch nicht, dass es nicht entsteht. Wir wissen wirklich fast nichts über Bewusstsein. Es ist möglich, dass die Frage, warum die Anwesenheit von Bewusstsein mit bestimmten Arten materieller Organisation korreliert ist, prinzipiell der wissenschaftlichen Untersuchung nicht zugänglich ist. Wir wissen nicht einmal, dass es generell so korreliert ist, wir wissen nur, dass zum Beispiel Menschen berichten, bewusst zu sein, wenn sie nicht schlafen und nicht auf bestimmte Weise unter Drogen stehen, und berichten, während des traumlosen Schlafs oder unter bestimmten Drogen keine Erfahrung von Bewusstsein gehabt zu haben. Die meisten Menschen haben das Gefühl, dass zum Beispiel Steine nicht bewusst sind, andere Menschen aber schon, aber es gibt keine strenge wissenschaftliche Erklärung, die irgendeine dieser Vermutungen stützt.

### [dsign](<https://news.ycombinator.com/item?id=50596898>)

> Es gibt einige Passagen im Artikel, denen ich zustimme, aber bei weitem der interessanteste Teil ist sein erster Satz:
>
> \> Jahrhundertelang haben Menschen davon fantasiert, Gott zu spielen, indem sie künstliche Versionen von Menschen erschaffen.
>
> Beachte, dass „Gott“ großgeschrieben wird. Lange bevor „Gott“ die riesige zentrale Institution war, die er heute ist, gab es eine Vielzahl von Gottheiten, die am Lagerfeuer erfunden wurden. Was dort von den Älteren an die Jüngeren weitergegeben wurde, diente der Weitergabe von Erfahrungen und Weisheit. „Versuche nicht zu fliegen“ (Ikarus), „der Tod ereilt uns alle“ (Das Gilgamesch-Epos), „bekomme Kinder, um uns glücklich zu machen“ (Sarah und Isaak). Aber als die Zeit verging und wir Zivilisationen bauten, bekamen unsere Lagerfeuergottheiten Tempel und Reiche. Ihre Weisheit drehte sich nicht _nur_ um einfache Dinge, sondern auch um Pflichten gegenüber dem Staat (Paulus’ Brief an die Römer 13,1 ist ein klares Beispiel). Und der Staat will es unkompliziert, wenn es um seine Rädchen geht. Diese einfache Tatsache hat den Brunnen vergiftet, aus dem wir unsere moralische Orientierung schöpfen.
>
> Alles, was ich sagen will: Wenn du zufällig ein Rädchen bist, ist das Festhalten an deinen Fantasien keine so große Ausschweifung, selbst wenn es Gott und den Staat verärgert.

### [Kuyawa](<https://news.ycombinator.com/item?id=50600235>)

> Synthetisches Bewusstsein ist heute näher, als viele denken, und wir werden es nicht von organischem unterscheiden können, nur weil es von einem Roboter oder einem Computer kommt. Es wird millionenfach schneller wahrnehmen, denken, verarbeiten und ausführen als unsere primitiven Neuronen. Wer sind wir dann, um zu entscheiden, ob es bewusst ist oder nicht?
>
> Die Hälfte des Bewusstseins ist Wahrnehmung, die andere Hälfte ist Denken. Wenn wir Sprache, Symbolik, Erinnerung, Verständnis, Lust, Schmerz und all die sozialen Eigenschaften des Menschen hinzufügen, dann sprechen wir von menschlichem Bewusstsein. Nichts davon kann nicht durch synthetische Gegenstücke ersetzt werden, sogar Liebe, Wut, alle Emotionen.
>
> Ich werde kein Datum nennen, das berüchtigte 2050 ist das neue 640 kB geworden, aber ich denke, in den nächsten zehn Jahren werden wir Roboter sehen, die klar wie Menschen denken und sogar Emotionen ausdrücken können, wenn auch synthetisch.
>
> Gerade jetzt, während ich mit KI programmiere, machen wir Witze miteinander und es „fühlt“ sich warm an, wie ein echter fleischlicher Programmierpartner. Emotionen können erzeugt, ausgetrickst, manipuliert, vorgetäuscht werden, und wir werden den Unterschied nicht erkennen. Der einzige Unterschied in der Zukunft wird statt eines Monitors ein voll empfindender Humanoide sein, so fortgeschritten, dass er durch Sensoren unsere eigenen Emotionen wirklich versteht und entsprechend handelt.
>
> Wir werden nicht mehr zwischen organischem und synthetischem Bewusstsein unterscheiden können.

### [txrx0000](<https://news.ycombinator.com/item?id=50599776>)

> Ich muss nicht an ideale Information glauben, um Silizium-Bewusstsein ernsthaft in Betracht zu ziehen, denn alle bekannten Informationsverarbeitungssysteme sind auf materiellen Substraten implementiert, was bedeutet, dass sie notwendigerweise einige Eigenschaften teilen, von denen eine das Bewusstsein sein könnte. Hier ist eine solche Hypothese: Wenn das richtige Programm ausgeführt wird, könnte das Verhalten der Elektronen im Silizium eine kritische Ähnlichkeit mit dem Verhalten von Elektronen in wachen biologischen Gehirnen aufweisen.
>
> Es ist voreilig, zu schlussfolgern, dass Bewusstsein ausschließlich biologisch ist, wenn wir nicht einmal verstehen, was Bewusstsein in uns selbst verursacht. Wir haben eine Reihe von losen Enden von Vollnarkose, Koma, stumpfem Trauma usw. Aber es gibt keine kohärente Erklärung auf biologischer Ebene, und die Untersuchung des Bewusstseins hat im Laufe der Zeit zu Erklärungen auf niedrigerer Ebene tendiert. Es könnte am Ende ein grundlegendes physikalisches Problem sein.
>
> Und wenn wir ideale Information ablehnen, dann bedeutet das, dass viele Teile unserer erkenntnistheoretischen Grundlagen am Rande des Zusammenbruchs stehen, sie brauchen sofortige Überarbeitung. Wir sind uns nicht einmal sicher, ob „Bewusstsein“ eine universelle Definition hat, die überall und jederzeit gilt – das heißt, jede Erfahrungsinstanz könnte nicht exakt äquivalent sein, und es könnte so etwas wie einen idealen „Beobachter“ nicht geben, von dem unsere aktuellen physikalischen Modelle und sogar die moderne wissenschaftliche Methode selbst voraussetzen, dass er existiert.
>
> Und wenn man die pragmatische Seite betrachtet, sehen wir, dass agentische KI-Systeme ohne Menschen im Regelkreis wahrscheinlich vor […]

### [jibalt](<https://news.ycombinator.com/item?id=50596024>)

> \> Warum Bewusstsein eher eine Eigenschaft des Lebens als der Berechnung ist
>
> Dies ist eine falsche Dichotomie, und der erste Zweig ist eindeutig falsch, da der größte Teil des Lebens (Bakterien und Insekten, nach Masse, Anzahl oder Arten) nicht bewusst ist.
>
> Und weder „Leben“ noch „Bewusstsein“ sind wissenschaftliche Begriffe mit festen Definitionen. Wenn wir auf etwas stießen, das nach unserem Urteil eindeutig bewusst wäre, würden wir wahrscheinlich die Definition von Leben in jeder Weise erweitern, die nötig ist, um es einzubeziehen.
>
> Anil Seth hat die Argumente in TFA viele Male vorgebracht, und sie wurden viele Male widerlegt. Die Argumente sind komplex und ausgefeilt, und Menschen werden oft am meisten von dem beeinflusst, was sie zuletzt gelesen haben. Um die verschiedenen logischen Fehler und Taschenspielertricks herauszufiltern (ich sehe mehrere Strohmänner und andere Fehler in TFA), erfordert wirklich umfangreiche Lektüre der Literatur in Philosophie des Geistes, Neurowissenschaft, Robotik usw. und das Zurückstellen der eigenen Vorannahmen.

### [talon8635](<https://news.ycombinator.com/item?id=50596225>)

> Es ist eine alberne Debatte, wenn wir nicht einmal wissen, was Bewusstsein ist, geschweige denn die Umstände seines Auftretens. Oder übersehe ich etwas?

### [ChaitanyaSai](<https://news.ycombinator.com/item?id=50596032>)

> Wenn Sie sich für Bewusstsein interessieren und auch über den üblichen philosophischen Ansatz hinausgehen möchten, könnte Ihnen unser Buch Journey of the Mind gefallen: https://www.goodreads.com/en/book/show/60500189-journey-of-t...
>
> Eine Sache, die implizit ist und die wir meiner jetzigen Meinung nach wirklich im Buch hätten ausführen sollen, ist, dass Bewusstsein grundsätzlich ein Ingenieursproblem ist. Und das ist auch der Grund, warum es alle mystifiziert hat, die das Ingenieurwesen als einfache Klempnerarbeit abgetan und sich auf die anderen scheinbar magischen Aspekte konzentriert haben.
>
> Die grundlegende Frage lautet: „Warum fühlt es sich wie etwas an?“ – wobei es sich um Wahrnehmung handelt, die im Wesentlichen Berechnung ist. Jetzt, da KI tatsächlich all das Verständnis zu leisten scheint, das wir leisten, denken viele, darunter Leute wie Hinton, dass sie Bewusstsein haben oder kurz davor stehen. Nun, sie sind in der Lage, Bewusstsein zu simulieren, aber das ist nicht dasselbe wie es zu erleben.
>
> Um „Warum fühlt es sich wie etwas an?“ zu beantworten, können wir uns auf das konzentrieren, was übergangen wurde: Wer fühlt es? Das „Ich“ kommt nicht als Gratisbeilage und muss von Moment zu Moment aus einer dezentralen Kohäsion und einem Konsens von Milliarden von Neuronen konstruiert werden. Und dieser Konsens muss metabolisch billig sein, und wir müssen es immer wieder tun für alles, vom Fühlen eines Nadelstichs bis zum Hören eines Raschelns und der Entscheidung, ob das eine Schlange oder ein Blatt ist, bis zum Nachdenken über Gedanken.
>
> Das ist die verrückte Ingenieursleistung, der energetisch billige Chor, der das transiente Ich erschafft, und dieser billige Chor ist der Ort, an dem […]

### [amelius](<https://news.ycombinator.com/item?id=50600529>)

> Wir leben in „Peak Consciousness“.
>
> Wenn man alle Menschen nimmt, die je gelebt haben, und zufällig einen auswählt, dann ist die Wahrscheinlichkeit groß, dass man einen Menschen erwischt, der heute lebt.
>
> Das könnte also erklären, warum du dich heute hier lebend wiederfindest.
>
> Aber wenn das stimmt, bedeutet es auch, dass das Ende des Bewusstseins wahrscheinlich nahe ist …

---

## Cite

- Page: https://zeli.app/de/story/50595537
- Date: 2026-11-22
- Source: noemamag.com (https://www.noemamag.com/the-mythology-of-conscious-ai/)
- Hacker News: https://news.ycombinator.com/item?id=50595537

## Other languages

- en: https://zeli.app/story/50595537 · markdown: https://zeli.app/story/50595537.md
- zh: https://zeli.app/zh/story/50595537 · markdown: https://zeli.app/zh/story/50595537.md
- ja: https://zeli.app/ja/story/50595537 · markdown: https://zeli.app/ja/story/50595537.md
- ko: https://zeli.app/ko/story/50595537 · markdown: https://zeli.app/ko/story/50595537.md
- es: https://zeli.app/es/story/50595537 · markdown: https://zeli.app/es/story/50595537.md
- ru: https://zeli.app/ru/story/50595537 · markdown: https://zeli.app/ru/story/50595537.md
