Anthropic의 Dario Amodei, "프런티어 속도를 늦춰야 한다"
We Must Pace the Frontier
Anthropic CEO Dario Amodei가 AI 개발 속도를 조절해야 한다고 주장한다. 재귀적 자기 개선과 OpenAI-Hugging Face 사건을 근거로, 3단계 계획을 제안한다. 첫 단계로 Anthropic은 제3자 평가자에게 직원 수준의 접근 권한을 부여하기로 단독 약속했다. 이후 민주주의 국가 간 협력, 글로벌 협력을 통해 안전 기준을 마련해야 한다고 강조한다.
우리는 AI 모델의 능력 향상 속도를 늦춰야 합니다. 진전은 여전히 빠르게 보일 것이며, 우리가 얻은 시간을 현명하게 사용해야 합니다.