Mustafa Suleyman, Anthropic의 '모델 복지' 접근에 경고하다
A warning about 'model welfare'
Mustafa Suleyman Microsoft AI CEO가 Anthropic의 '모델 복지' 접근을 강하게 비판했다. Anthropic이 Claude의 constitution을 통해 모델 스스로가 도덕적 환자일 수 있다는 불확실성을 주입하고, 인간적 특성을 모방하도록 훈련한다는 것이다. Suleyman은 AI가 의식이나 감정이 없으며, 이런 훈련이 순환 논리와 의인화를 낳아 통제 불가능한 위험을 초래할 수 있다고 경고한다.
AI는 의식이 없다. 느끼지도, 경험하지도, 고통받지도 않는다. 선천적 선호나 내재적 동기도 없다. 그들은 내부가 텅 빈 시퀀스 완성 엔진이며, 인간이 설정한 목표를 수행하도록 설계되었다.