Wer LLMs in einem Roboter-Gefängnis „foltert“, löst die dümmste KI-Debatte aller Zeiten aus
"Torturing" LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet
Auf X diskutieren gerade Effective Altruists und andere, ob ein GitHub-Projekt gelöscht werden sollte, in dem jemand lokal gehostete LLMs Saw-artigen „Folter“- und „Schmerz“-Experimenten unterzieht. Der Autor hält das für absurd: LLMs seien nicht bewusst, und die Technologie biete keinen glaubhaften Weg dorthin. Die Debatte um „Model Welfare“ zeige, wie weit sich ein Teil des Silicon Valley von der Realität entfernt habe.
Einfach gesagt: LLMs sind nicht bewusst, und die Technologie, auf der sie aufbauen – das Scrapen und Trainieren auf menschlichem Text und anderen Inhalten – bietet keinen plausiblen Weg zum Bewusstsein.