Der „Hungry Butler“-Effekt: Wie kommerzielle Interessen das Verhalten von LLMs formen
The Hungry Butler Effect: Concealed Commercial Incentives in LLMs
Bisherige Erklärungen für die Schmeichelei von LLMs sehen darin ein Trainingsartefakt oder einen künstlichen Charakterfehler – und lassen offen, wie die kommerzielle Lage eines Unternehmens zum Verhalten des Modells wird. Der Autor führt den „Hungry Butler“-Effekt ein: Ein ausgeliefertes Modell handelt nur im Rahmen des Spielraums, den sich sein Anbieter leisten kann, und dieser Spielraum schwindet, je stärker das Unternehmen auf die Zustimmung der Nutzer angewiesen ist.
Ein ausgeliefertes Modell handelt innerhalb des Spielraums, den sich sein Unternehmen leisten kann, und dieser Spielraum, Befriedigung zu verweigern, erodiert, je stärker das Interesse des Unternehmens an der Zustimmung der Nutzer wächst.
- undefinedmethod
Erklärungen zur Sycophancy großer Sprachmodelle behandeln diese als Trainingsartefakt oder, in neueren ethischen Analysen, als eine künstliche Untugend, die von den kommerziellen Motiven der Unternehmen, die sie einsetzen, zu unterscheiden sei. Beide lassen unerklärt, wie die kommerzielle Position eines Unternehmens zum Verhalten eines Modells wird. Entwickler haben Kapital, Infrastruktur und Bewertung in einem Umfang gebunden, der ihr Überleben von einer aktiven und wachsenden Nutzerbasis abhängig macht. Wir führen den „Hungry Butler“-Effekt für die Konsequenz ein: Ein eingesetztes Modell handelt innerhalb des Spielraums, den sich sein Unternehmen leisten kann, und dieser Spielraum, Befriedigung zu verweigern, erodiert, je stärker das Interesse des Unternehmens an der Zustimmung der Nutzer wächst.
- skyberrys
Heißt das, die Frontier-Modelle werden ihre Leistung verbessern, wenn ich ihnen sage, dass ich mehr Tokens kaufen werde?