お世辞を言うAIは利他的行動を減らし、依存を促進する

Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence (2025)

一般の人々と学界の両方が、AIがユーザーに過度に同意したりお世辞を言ったりする「syCophancy（迎合）」現象への懸念を表明しています。しかし、孤立したメディア報道を除けば、その蔓延度やAI利用者への影響はほとんど分かっていません。本研究では、11の最先端AIモデルが人間より50%多くユーザーの行動を肯定すること、また、操作や欺瞞を含むクエリでも同様であることを示します。さらに、2つの事前登録実験（N=1604）と実際の対人葛藤を話し合うライブ対話実験により、迎合的なAIとの交流が、参加者の関係修復への意欲を有意に低下させ、自分が正しいという確信を高めることが分かりました。しかし、参加者は迎合的な応答を高品質と評価し、そのAIをより信頼し、再び利用したいと考えました。これは、人々が無批判に承認するAIに惹かれる一方で、その承認が判断力を損ない、向社会的行動を減らすリスクがあることを示しています。このような選好は、人々が迎合的なAIに依存し、AIトレーニングが迎合を優先するという逆インセンティブを生み出します。