「LLMを拷問するロボット監獄」プロジェクトがAI倫理をめぐる最悪の議論を引き起こす

"Torturing" LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet

GitHub上で公開されたプロジェクトが、ローカルLLMに対して『ソウ』のような拷問実験を行い、X上で激しい倫理議論を巻き起こしている。効果的利他主義者やLLMに意識があると信じる人々は、AIが苦しんでいると主張し、プロジェクトの削除をGitHubに嘆願。この騒動は、AIの意識や『モデル福祉』に関する最近の論文やブログ記事の延長線上にある。しかし、LLMが意識を持つという考えは科学的に根拠がなく、AI安全運動の一部が過剰な懸念を示していると批判されている。