Alguien "tortura" LLMs en una prisión robótica y desata el debate más absurdo sobre la IA
"Torturing" LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet
Un proyecto en GitHub que somete a LLMs locales a experimentos de "tortura" al estilo Saw ha provocado un acalorado debate en X. Defensores del altruismo eficaz y creyentes en la conciencia de la IA piden borrarlo por supuesto sufrimiento. El autor sostiene que los LLMs no son conscientes y que preocuparse por su "bienestar" es un desvarío de cierta secta de Silicon Valley, aunque Anthropic ya habla de "model welfare".
En pocas palabras: los LLMs no son conscientes y la tecnología sobre la que se construyen —extraer y entrenarse con texto humano y otros contenidos— no ofrece ningún camino plausible hacia la conciencia.