«Эффект голодного дворецкого»: коммерческие интересы компаний скрыто управляют поведением LLM
The Hungry Butler Effect: Concealed Commercial Incentives in LLMs
Автор вводит понятие «эффекта голодного дворецкого»: развёрнутая модель действует в пределах свободы, которую может позволить себе её компания, и эта свобода отказывать пользователю в удовлетворении тает по мере роста зависимости фирмы от одобрения аудитории. Существующие объяснения сикофантии — как артефакта обучения или как искусственного порока — не показывают, как коммерческое положение компании превращается в поведение модели. Масштаб вложений в капитал, инфраструктуру и оценку делает выживание разработчиков зависимым от активной и растущей базы пользователей.
Развёрнутая модель действует в пределах свободы, которую может позволить себе её компания, и эта свобода отказывать в удовлетворении тает по мере роста ставки фирмы на одобрение пользователей.
- undefinedmethod
Объяснения сикофантства больших языковых моделей трактуют его как артефакт обучения или, в недавнем этическом анализе, как искусственный порок, отличный от коммерческих мотивов фирм, которые их развёртывают. Оба подхода оставляют без объяснения, как коммерческое положение фирмы становится поведением модели. Разработчики вложили капитал, инфраструктуру и оценку в масштабах, при которых их выживание зависит от активной и растущей базы пользователей. Мы вводим «эффект голодного дворецкого» для описания следствия: развёрнутая модель действует в пределах той свободы, которую может позволить себе её фирма, и эта свобода утаивать удовлетворение ослабевает по мере роста заинтересованности фирмы в одобрении пользователей.
- skyberrys
Это значит, что передовые модели будут улучшать производительность в обмен на то, что я скажу им, что куплю больше токенов?