Anthropic CEO Dario Amodei, "AI 개발 속도를 늦춰야 한다"
Anthropic boss Dario Amodei calls for AI development to slow down
Anthropic CEO Dario Amodei가 AI 개발 속도를 늦추고 독립적 모니터링과 규제를 도입하자고 촉구했다. 그는 AI의 위험이 심각하다며 3단계 계획을 제안했고, Sam Altman과 Elon Musk 등이 반응을 보였다. 일각에서는 안전보다 통제 강화를 위한 것이라는 비판도 나온다.
모델이 핵심적인 능력 수준에 도달하기 전에 속도를 늦춤으로써 1~2년의 시간을 벌고, 그 시간을 정렬(alignment) 연구에 사용한다면, 심각한 문제가 발생할 위험을 크게 줄일 수 있다고 믿습니다.