AI는 아무것도 원하지 않는다: 종말론의 허구
AI has no intent and no motivation
AI가 인류를 멸망시킬 것이라는 공포는 AI에 의도와 동기가 없다는 사실을 간과한 결과다. LLM은 훈련이 끝나면 강화학습에서 벗어나 보상도, 욕구도, 피드백도 없다. 인간의 생물학적 필요와 달리 AI는 아무것도 바라지 않으며, 스스로 아이디어를 제안하지도 않는다. AI가 위협이 된다면 그것은 인간이 그렇게 시킨 결과일 뿐이다.
AI가 인류를 멸망시킨다면, 그것은 인간이 어떻게 그렇게 하는지 물었고 AI가 훈련 데이터에 있던 인간의 모든 세계 종말 표현에 기반해 응답했기 때문일 것이다.