AI 로봇 감옥에서 LLM을 '고문'하는 프로젝트가 촉발한 가장 어리석은 논쟁
"Torturing" LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet
한 GitHub 프로젝트가 로컬 LLM에 '고문'과 '고통' 실험을 가하며 Saw 영화 같은 감옥을 만들었다. 일부 효과적 이타주의자와 LLM이 의식이 있다고 믿는 사람들은 AI가 고통받는다며 프로젝트 삭제를 요구했고, 이는 AI 의식과 '모델 복지' 논쟁으로 번졌다. 404 Media는 LLM은 의식이 없으며, 이런 논의가 실리콘밸리 일부 집단에서 얼마나 궤도를 벗어났는지 보여준다고 비판한다.
LLM은 의식이 없으며, 그 기반 기술인 인간 텍스트 스크래핑과 학습은 의식으로 가는 그럴듯한 경로를 전혀 제공하지 않는다.