ИИ советует всем одно и то же: 73 из 100 получают одну книгу

AI is giving everyone the same advice

Автор задал 65 моделям ИИ от 30 компаний повседневные вопросы 127 918 раз. На просьбу порекомендовать книгу, меняющую жизнь, в 73% случаев все называли «Человек в поисках смысла». Просить совет по деньгам или карьере — та же история: 90% советуют computer science, 98% — индексный фонд. Даже выдуманные ИИ люди почти всегда 34 года. Разнообразие появляется только внутри одного чата, а новый чат начинает с нуля.

Спросите ИИ о случайном человеке — и ему почти всегда будет 34 года. 69% из 3151 выдуманного человека были ровно 34-летними.
  1. mannyv

    ИИ попадает в ловушку поиска, где всё детерминировано. И это логично: когда ищешь, хочешь получать один и тот же ответ каждый раз.

    Это можно отчасти отключить с помощью персонализации. Но на каком-то уровне твой запрос — это шарик, катящийся по серии наклонных плоскостей, и большие плоскости — те, по которым твой шарик, скорее всего, и покатится.

  2. BiraIgnacio

    Давным-давно я попробовал Claude, ChatGPT и Gemini, чтобы изучить разные рецепты выпечки.

    Когда я спросил про использование подсластителей, все они сказали, что один конкретный тип лучше всего работает в смеси с другими жидкостями.

    Я заметил, что все они использовали практически одно и то же предложение. Когда я спросил почему, ни одна из моделей не смогла дать внятного объяснения.

    Потом я обнаружил, что несколько сайтов давали точно такие же инструкции, тоже без внятного объяснения почему.

    В общем, долгая история, которая меня одновременно позабавила и напугала тем, как мало кусочков информации могут иметь такой большой вес в модели.

  3. q17

    На самом деле это неплохой пост в блоге, несмотря на некоторые признаки того, что он слегка написан ИИ.

    Одна вещь, которая мне была бы любопытна, — это влияние top p, top k и temperature, поскольку именно они являются источником любых различий между ответами на идентичные промпты.

  4. bigdict

    Если задать общий вопрос без контекста, получишь общий ответ «максимального правдоподобия». Это что, удивляет?

  5. xg15

    > Я спросил 65 ИИ о том, что люди спрашивают их каждый день

    А откуда модели это знать? Не думаю, что лаборатории так просто отдадут доступ к своей собственной статистике использования.

Ещё за этот день

2026-11-21