Anthropic 연구원, 사직하며 "AI 기업들이 인류를 위험에 빠뜨리고 있다"고 경고

I resigned from Anthropic today

프리트레이닝 연구원 Jacob Coxon이 Anthropic을 사임하며 OpenAI와 Anthropic이 '자기 개선형 초지능' 경쟁에 몰두하고 있다고 비판했다. 그는 두 회사 모두 책임감 있게 행동하지 않으며, AI가 이르면 10년 안에 인류를 멸망시킬 수 있다는 두려움이 연구자들 사이에 널리 퍼져 있다고 주장한다. Coxon은 미국 연구소들 간의 협력 가능성에 대해 조심스러운 낙관론을 피력하면서도, 모델 능력 향상의 일시적 금지와 같은 과감한 조치가 필요할 수 있다고 말한다.