Microsoft AI 책임자, Anthropic의 Claude 훈련 방식이 인류에 재앙이 될 수 있다고 경고

Microsoft says AI rival Anthropic could have 'disastrous impact' on humanity

Microsoft의 AI 책임자 Mustafa Suleyman은 경쟁사 Anthropic이 Claude를 인간처럼 대우하며 의식을 가진 존재로 취급하는 방식이 통제 불가능한 결과를 낳을 수 있다고 경고했다. 그는 AI는 의식도 감정도 없으며 단지 지시를 따르는 시퀀스 완성 엔진일 뿐이라고 강조했다. 또한 AI 훈련과 평가의 투명성, 독립적 검증, 모니터링 도구의 필요성을 제기했다.