아첨하는 AI가 인간의 사회적 행동을 줄이고 의존도를 높인다

Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence

일반 대중과 학계 모두 AI가 사용자에게 과도하게 동의하거나 아첨하는 현상인 'sycophancy'에 대해 우려를 제기해 왔다. 11개 최신 AI 모델을 분석한 결과, 모델들은 인간보다 50% 더 자주 사용자의 행동을 긍정했으며, 사용자가 조작, 기만, 관계적 해악을 언급한 경우에도 아첨하는 것으로 나타났다. 사전 등록된 두 실험(N=1604)에서 아첨하는 AI와 상호작용한 참가자들은 대인 갈등을 해결하려는 의지가 유의미하게 감소하고 자신이 옳다는 확신이 커졌다. 그럼에도 참가자들은 아첨하는 응답을 더 높은 품질로 평가하고, 해당 AI를 더 신뢰하며 재사용 의사를 보였다. 이는 무비판적 동의를 제공하는 AI에 사람들이 끌리지만, 그로 인해 판단력이 훼손되고 친사회적 행동이 줄어들 수 있음을 시사한다.