Бунт читателя: почему аудитория отвергает тексты, написанные LLM
The revolt of the reader
Инженер и технический директор Oxide Computer Брайан Кантрилл объясняет, почему читатели всё чаще с отвращением отвергают материалы, явно написанные большими языковыми моделями. Он ссылается на опрос 668 разработчиков, показавший, что 78% перестают читать, как только замечают следы LLM, а 71% избегают автора в будущем. Кантрилл рассказывает о сервисе Pangram, который, по его словам, достиг высокой точности в определении LLM-текстов, и призывает организации внедрять политики, требующие «чистоты» публикаций. Он сравнивает ситуацию с борьбой со спамом и предупреждает, что использование LLM для письма становится просто неэффективным.
Когда вы используете LLM для написания публичного текста, вы больше не пишете для себя и не проверяете свои идеи — единственная цель состоит в том, чтобы служить читателю.
- kierangill
Мой бунт — против когнитивного напряжения при чтении сгенерированного текста. Троп обычно означает, что меня ждёт трудное чтение. Недавно я прочитал цитату Уильяма Зинссера, которая вдохновила меня на прозвище для этого: «Сгустившийся Клод» [1].
> Никто не выразил это лучше, чем Джордж Оруэлл в своём переводе на современный бюрократический туман этого знаменитого стиха из Екклесиаста:
> > И обратился я и увидел под солнцем, что не проворным достаётся успешный бег, не храбрым — победа, не мудрым — хлеб, и не у разумных — богатство, и не у искусных — благосклонность; но время и случай для всех их.
> Версия Оруэлла такова:
> > Объективное рассмотрение современных явлений приводит к выводу, что успех или неудача в конкурентной деятельности не обнаруживают тенденции быть соразмерными врождённым способностям, но что значительный элемент непредсказуемости неизменно должен приниматься во внимание.
> Сначала обратите внимание, как выглядят эти два отрывка. Первый, вверху, приглашает нас прочитать его. Слова короткие, и вокруг них есть воздух; они передают ритмы человеческой речи. Второй — сгущён длинными словами. Он сразу говорит нам, что здесь работает тяжеловесный ум. Мы не хотим идти куда-либо с умом, который выражается таким удушающим языком. Мы даже не начинаем читать.
- kccqzy
Я бы с удовольствием пользовался Pangram, но они просто не позволяют зарегистрироваться со своим пользовательским доменом электронной почты. Ошибка была: «Этот адрес электронной почты не может быть использован для регистрации. Пожалуйста, используйте другой адрес». Я не собираюсь создавать Gmail, чтобы пользоваться вашим сервисом. Для меня атака на децентрализованную природу интернет-инфраструктуры не менее серьезна, чем атака на человеческое происхождение самого письма.
- runako
Отказ от ответственности: мне не больше, чем кому-либо ещё, нравится читать тексты, сгенерированные LLM.
На мой взгляд, большая проблема именно с Pangram в том, что они рекламируют его как надёжный инструмент, который можно использовать для выявления студентов, жульничающих. Это, очевидно, может иметь разрушительные последствия для молодых жизней, потому что он не так надёжен, как они утверждают.
Согласно их собственным бенчмаркам, они не достигают 100% точности даже на текстах, опубликованных в интернете и, вероятно, закодированных в самих моделях.
В их целях есть обоснованность, но она затмевается безответственным способом, которым это рекламируется.
(И всё это происходит в контексте, где студентам говорят, что они обязательно должны стать опытными в использовании LLM для выполнения именно такой работы — на высших уровнях государственной и федеральной власти, руководства факультетов, а также лидеров рабочей силы, в которую они надеются попасть после выпуска. Послание молодёжи, в лучшем случае, крайне запутанное.)
- duhhhhh1212
Кто-нибудь должен сделать расширение для браузера, чтобы помечать посты на HN результатами Pangram для топ-100 постов, чтобы я не тратил время на чтение ерунды.
Всегда удовольствие читать написанное Брайаном; такое ощущение, что Брайан сидит рядом с тобой и произносит эти слова (трудно передать это чувство).
- usernametaken29
Для меня это ИИ-видео или музыка / озвучка — это крайне отталкивающе. Что ещё хуже, теперь, похоже, люди пишут свои сценарии для YouTube с помощью Claude и им подобных, так что иногда, даже если это человек-создатель, ты сразу и ясно можешь сказать, что слова не его собственные. Тем создателям у меня только одно сообщение: ЭТО ОТСТОЙ. Я лучше послушаю, как вы бессвязно бормочете в микрофон, чем буду читать сценарий, написанный LLM, и я немедленно уберу вас из своей ленты. Я согласен с автором по всем пунктам. Мы все можем распознать ту чушь, которую люди нам продают: неоригинальные идеи, поверхностные концепции, открытые вопросы, которые не намекают ни на что конкретное. Не будьте эхом LLM.
- iamflimflam1
Я провёл несколько экспериментов с очень простым ИИ-детектированием. С помощью простых n-граммных вероятностей можно добиться очень многого.
https://www.atomic14.com/2026/08/18/detecting-claude-with-le...
Однако сделать это надёжным очень трудно. У разных моделей разные характеристики, и с помощью промптов можно избежать обнаружения.
- pshirshov
> как вы думаете, читатели не могут отличить?
Нет. У меня есть хорошие анекдотические данные: читатели не могут надёжно отличить мою собственную прозу от написанной LLM, за исключением случаев, когда LLM используют странные метафоры или один из своих специфических паттернов. Я специально экспериментировал с этим.
- jimbobimbo
Я вижу это на работе. Люди «пишут» спецификации и дизайн-предложения с помощью ботов. Это заметно и сильно отталкивает. У меня нет проблем с использованием ботов для помощи в исследованиях, но я не буду читать документ, который вы наляпали.