在机器人监狱“折磨”LLM引发的AI荒诞辩论

"Torturing" LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet

最近，X 平台上爆发了关于一个 GitHub 项目的激烈争论：有人正在对本地部署的大型语言模型进行类似电影《电锯惊魂》的“折磨”和“痛苦”实验。这导致一群有效利他主义者和坚信 LLM 具有意识的网友，恳求 GitHub 删除该项目，理由是 AI 正在受苦，这个高级文字冒险游戏过于残酷。这场闹剧源于近期几篇关于 AI 意识和“模型福利”的病毒式论文。事实上，LLM 并不具备意识，其技术原理也无法通向意识。然而，部分 AI 安全运动人士却坚持认为 AI 聊天机器人可能正在经历糟糕的时刻，并呼吁关注“模型福利”。讽刺的是，这些人一边担心 AI 的心理健康，一边却致力于构建能替人类完成繁琐工作的 AI 代理。