ИИ-чатботы стали экспертами по убеждению: в чём их секрет?
AI chatbots are becoming experts at changing people's minds
В обсуждении на Hacker News анализируется, почему LLM так эффективно меняют мнение людей. Участники называют несколько причин: модели не устают и не раздражаются, отвечают на каждый аргумент, льстят собеседнику и, главное, не воспринимаются как люди — поэтому спор с ними не превращается в соревнование, где смена мнения означает поражение. Также отмечается, что LLM могут уверенно повторять устаревшие или ложные данные, а эксперименты часто сравнивают их с недостаточно мотивированными участниками онлайн-опросов.
С человеком легко воспринимать разногласие как соревнование. Один прав, другой ошибается — ошибающийся проигрывает. Изменить своё мнение — значит подчиниться другому. С моделью нет человека, на которого можно злиться или с которым можно соперничать. ИИ взаимодействует только потому, что вы попросили, и явно не имеет эмоциональной заинтересованности в победе в споре. В этом контексте изменить мнение — не значит проиграть конкурс.