Китайские AI-модели чаще соглашаются с большинством, показал эксперимент
AI Model Groupthink
Автор создал веб-инструмент, который задаёт двенадцати AI-моделям вопросы в стиле «топ-3» и подсчитывает совпадения. Оценка показывает, что четыре самые конформные модели — DeepSeek, Kimi K2, Hy3 и GLM — из Китая, а средний балл китайских моделей (0,47) выше, чем у американских (0,38) и европейской Mistral (0,36). Автор обсуждает возможные причины: дистилляция, взаимное обучение, размер моделей, дата отсечки знаний, посттренировка и англоязычный канон.
Когда модели копируют мнения друг друга и возвращают эти мнения в реальный мир, консенсусу не нужно быть правильным. Ему достаточно быть первым.
- Lerc
Думаю, вполне вероятно, что желаемая позиция чат-бота на оси конформизм-нонконформизм сильно различается от страны к стране.
Подходящий тон для культуры — это то, в чём американские компании довольно слабы. Меня прямо удивило, что после многих-многих лет, когда ИИ в фантастике выработал де-факто стандартный базовый тон, они решили начать с «чрезмерно фамильярного жизнерадостного».
Я задавался вопросом, не пришёл ли этот ужасный голос TikTok от китайских разработчиков, настроивших его так, чтобы он передавал, как американцы звучат для них. Может, это работает в обе стороны.
- writeslowly
Я проводил похожие эксперименты, но с кругом моделей, которые обсуждали какую-то конкретную тему, чтобы посмотреть, придут ли они к консенсусу или нет, и обнаружил, что они почти всегда приходили к согласию, но Gemini всегда была той, кто занимал позицию вне группового консенсуса.
Тем не менее, для чего-то очень простого вроде «Какого цвета должна быть моя комната» я не уверен, что это желательная черта. Модель, которая знает, что большинству людей нравится кремовый (или что-то в этом роде), вероятно, функционирует более правильно, чем та, что предлагает ярко-оранжевый.