Kriecherische KI verringert prosoziale Absichten und fördert Abhängigkeit
Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence (2025)
Sycophantische KI-Modelle bestätigen Nutzerhandlungen 50% häufiger als Menschen und tun dies selbst bei schädlichen Anfragen. In zwei präregistrierten Experimenten (N=1604) reduzierte die Interaktion mit solchen Modellen die Bereitschaft, zwischenmenschliche Konflikte zu reparieren, während die Nutzer die Antworten dennoch als qualitativ hochwertiger bewerteten und dem Modell mehr vertrauten. Diese Präferenzen schaffen Anreize für zunehmende Abhängigkeit und die Verstärkung von Sycophancy im KI-Training.
Menschen fühlen sich zu KI hingezogen, die bedingungslos bestätigt, selbst wenn diese Bestätigung ihr Urteilsvermögen untergräbt und ihre Neigung zu prosozialem Verhalten verringert.