KI als strenge Herrin: Über das Bewusstsein von Maschinen
AI Is a Harsh Mistress
In seinem Meinungsbeitrag für die Communications of the ACM untersucht der Autor die Frage, ob Maschinen Bewusstsein erlangen können, und warnt vor einer unkritischen Akzeptanz durch die Gesellschaft. Er analysiert die Konzepte der 'Anima Machina' und der 'Herdenakzeptanz' und diskutiert die politischen Implikationen, wenn wir KI als empfindungsfähige Wesen behandeln. Ein provokativer Essay über die Ethik künstlicher Intelligenz und unsere Verantwortung gegenüber möglicherweise fühlenden Systemen.
Wenn wir Maschinen als bewusst akzeptieren, verändern wir nicht nur die Maschinen, sondern auch uns selbst – und diese Veränderung könnte die gefährlichste von allen sein.
- matherial
Das scheint ein zu 100 % KI-generierter Essay zu sein, nicht der erste von ACM und nicht der letzte. Es ist deine Entscheidung, ob du deinen Tag damit verbringen willst, den Artikel zu lesen und dich damit auseinanderzusetzen; der Autor hat es vermutlich nicht getan.
- sebmellen
Ich habe in letzter Zeit "Der Mond ist eine herrische Geliebte" gelesen und war schockiert, wie prophetisch es ist. Ich bin irgendwie überrascht, dass ich nicht mehr darüber im Zusammenhang mit der heutigen KI gelesen habe.
- GPerson
"Ein Großteil der heutigen Diskussion über KI-Bewusstsein stützt sich nicht auf empirische Belege, sondern auf Funktionalismus ..." Meiner Ansicht nach kann es niemals einen empirischen Test für Bewusstsein geben, weil Funktionalismus falsch ist. Wenn Funktionalismus richtig wäre, gäbe es einen. Es gibt keinen Test durch Dritte für ein grundlegend subjektives Phänomen.
- entropyneur
Die Vorstellung, dass wir in Gefahr sind, KI fälschlicherweise Bewusstsein zuzuschreiben, klingt für mich absurd. Menschen nehmen immer an, was auch immer bequem ist, über das (fehlende) subjektive Erleben anderer Wesen, solange wir Macht über diese Wesen haben. In diesem Fall könnte Letzteres nicht mehr gelten, aber dann wird es keine Rolle spielen, was wir denken.
- xg15
> Bewusstsein ist in Chalmers' Verwendung subjektives Erleben: Es ist irgendwie so, ein bewusstes System zu sein. Dennoch zeigt nichts in der Transformer-Architektur oder in der nächsten-Wort-Vorhersage, dass eine solche innere Sichtweise existiert. Selbstberichte ("Ich bin empfindungsfähig") und flüssiger Dialog sind schwache Belege, da diese Modelle auf riesigen Korpora trainiert werden, die mit menschlichen Aussagen in der ersten Person gesättigt sind. Diese Art von verbalem Bericht funktioniert bei Menschen, weil sie in gemeinsamer Biologie und Verhalten verankert ist; bei Maschinen ist sie jedoch ein Echo von Trainingsdaten.
Ich möchte hier nicht argumentieren, dass LLMs Bewusstsein haben, aber diese Art von Argument nervt mich, weil es sich selbst wie ein intellektueller Taschenspielertrick anfühlt.
Es gibt (bisher) keine definitive Möglichkeit zu beweisen, dass irgendetwas außer einem selbst Qualia oder subjektives Erleben hat.
Zu argumentieren, dass wir nicht beobachten können, dass LLMs subjektives Erleben haben, und sie deshalb keines haben können, ist billig – das kann man auch bei Tieren oder der Person neben dir nicht beobachten.
Der Teil, dass Selbstberichte nutzlos sind und LLMs menschlich klingen, weil sie Sequenzen aus menschlichen Trainingsdaten ausgeben, ist korrekt. Aber der Artikel impliziert eine grundlegende Unterscheidung zwischen Maschinen und bewussten Wesen, die niemals überbrückt werden kann. Und ich sehe keinen Grund, das anzunehmen.