load-bearing - Analyzing Claude's vocabulary trends
Show HN: The load-bearing vocabulary of Claude
load-bearing — это инструмент, который анализирует 100 GitHub pull request'ов ежедневно, чтобы выявить тренды в словарном запасе. Собрав более 5 миллионов слов из почти 50 000 PR, он кластеризует их с помощью KL-дивергенции и k-means, обнаруживая 8 кластеров лексики. Один из них, появившийся в 2026 году, охватывает 45% всех PR, приписываемых людям, и его ключевые слова — такие как 'load-bearing', 'latent', 'seam' — знакомы каждому, кто использует кодинг-агентов. Проект предоставляет полный код и методологию на GitHub, позволяя исследователям и разработчикам понять, как меняется язык в эпоху AI-ассистентов.
Мы кластеризовали GitHub PR с 2025 года на 8 кластеров лексики, и один из них, появившийся в 2026 году, представляет 45% всех PR, приписываемых людям, за последний месяц.
- nater5000
Я был приятно удивлён, когда попытался прокрутить страницу вниз и понял, что всё, что автор хотел показать, помещается на экране. Почти иронично, что этот сайт способен сделать такую очевидную и убедительную презентацию, не будучи чрезмерно многословным или сложным (то, что LLM делают с трудом). Я бы не стал слишком глубоко вникать в представленное, но автор хорошо поработал, не привнося собственных предубеждений в презентацию, и это работает хорошо.
Я подозреваю, что по мере продвижения вперёд люди будут постепенно перенимать язык LLM, или, по крайней мере, определённые языковые особенности, возникающие при взаимодействии с LLM. Я заметил в собственном письме, что теперь я представляю списки примеров единообразно: "...такие как <пример 1>, <пример 2> и т.д., ...". Я начал замечать, что довольно часто использую этот паттерн в последнее время, но, быстро просмотрев свои посты в соцсетях, понял, что это происходит уже давно. Я осознал, что привык к такому языку, потому что, особенно в начале, LLM слишком сильно фокусировались на конкретных примерах, которые я приводил, тогда как на самом деле я просто пытался дать им представление о том, что я ищу. Я просто усвоил, что приведение двух примеров и добавление "и т.д." помогает LLM не зацикливаться на конкретных примерах и понять, что им нужно рассмотреть больше, чем я явно представил. Конечно, теперь я так пишу в комментариях в соцсетях, в Slack с [...]
- ben30
Интересный ответ от Claude, когда я попытался уменьшить использование "несущего" в его ответах:
Я добавил в свой глобальный промпт:
- Первое правило Оруэлла: никогда не используй метафору, которую ты привык видеть в печати. "Несущий", "суть", "гражданин первого класса" сигнализируют о понимании, а не показывают его. Назови конкретный механизм.
Когда я спросил, что оно думает об этом изменении, его ответ был:
Пуля Оруэлла борется с моим собственным системным промптом. Мои инструкции буквально говорят мне помечать "что-то несущее", когда я это нахожу.
- Labo333
Автор здесь! Благодарен за добрые слова, человеческие сообщества вроде HN действительно воспринимаются иначе, когда проводишь весь день, общаясь с подхалимскими и врущими агентами (включая тех, что помогли создать эту страницу).
Сейчас я добавляю поисковую строку, а также увеличиваю данные до 1000 PR в день.
Приятная вещь, которая не очевидна на главной странице, заключается в том, что набор данных и анализ обновляются ежедневно с помощью GitHub Actions (по крайней мере, когда они не страдают от сбоев ^^). Я нахожу довольно крутым возможность создавать такие приложения без "бэкенда"!
- SalariedSlave
В последнее время я вижу, что это упоминается всё чаще, и на HN, и на reddit. Похоже, эти паттерны вывода становятся хуже. Это не только Claude, у меня впечатление, что у всех текущих моделей есть этот стилистический недостаток. Их тексты могут становиться почти нечитаемыми.
Есть ли какая-то петля обратной связи или усиление с каждым поколением моделей?
Возможно, новые модели поглощают слишком много ИИ-контента?
Если доля ИИ-сгенерированного контента в обучающих данных становится всё выше (потому что количество ИИ-сгенерированного контента в целом растёт), возможно, это усиливающееся смещение, отравляющее обучение?
- prmph
Да, сейчас письмо Claude какое-то странное, и он использует слова, которые странны и нестандартны в контексте, а структура предложений иногда тоже странная.
Работая с ним над моим кодом, он теперь часто делает странный выбор слов, например:
- "называет" как глагол (вместо "указывает/указывает" и т.д.), например, "...функция называет аргумент"
- "несёт" вместо "содержит"
- "вердикт" вместо "результат"
- "судить" вместо "проверять"
Очень странно. Кроме того, при написании комментариев и документации он краток так, что текст трудно разобрать, например, опускает упоминание того, на что ссылается существительное, например, "abc не принимает..." вместо "Функция abc не принимает..."
Я прибег к запрету использования определённых слов и постоянно прошу его переписывать текст более ясно.
- sosull
Мне это очень нравится. Это всеобъемлюще, оно консолидирует данные до такой степени, что аргумент фактически "сам себя создаёт", и способ подачи уважает время читателя. Это также создаёт интересный вызов (по крайней мере для меня) — попытаться так узко охарактеризовать предмет языковой проблемы.
Никаких слайдов. Никакого повествования. Просто прекрасный большой болезненный вывод.
- Jordan-117
Интересно, в какой степени это результат неоптимального RLHF по сравнению с врождённым интеллектом модели, делающим её язык более сложным и трудным для лёгкого восприятия людьми? С одной стороны, это распространённый штамп, что высокообразованные люди могут говорить так, что это сбивает с толку и раздражает обычных людей, не знающих жаргона. Но с другой стороны, признак умелого коммуникатора — способность эффективно дистиллировать сложную информацию до самой сути в легкоусвояемой форме. Конечно, это также, похоже, подразумевает, что эти модели работают на более высоком уровне и им нужно в некоторой степени снисходить до нас. Или, может быть, "клодиш" просто сродни таким вещам, как "пещерный язык", сырые цепочки мыслей, нейрализ и т.п., которые также гораздо плотнее/эффективнее, но труднее для интерпретации?
- stabbles
Помимо словарного запаса, мне также было бы любопытно узнать, как он структурирует предложения.
Паттерн "X, не Y" хорошо известен, но другая вещь, которая меня беспокоит, — это "Оно <глагол>ет никакого <существительное>" вместо "Оно не <глагол>ет <существительное>".
Например: "список не содержит строки" или "это не меняет поведения" или "он не содержит каталога".
- loglog
На данный момент в разбиении есть только два кластера естественного языка: Claudish и испанский/французский. На первый взгляд, другие кластеры, похоже, сосредоточены на технологиях (много флагов командной строки и сокращений среди "наиболее представительных" слов). Если цель — исследовать тенденции использования английского языка, возможно, лучше кластеризовать, основываясь только на английских словах.
- wavewrangler
Недавно говорил об использовании "shipped" (выпустили), и меня высмеяли за такой сумасшедший вопрос, причём новоиспечённые инженеры. Неудивительно, что они считали это нелепым... это было частью их словарного запаса всю их карьеру. Все несколько недель её. Интересно, чем эти парни сейчас занимаются. Это было около месяца назад. Как думаете, то, что они выпустили, когда-нибудь... приземлилось?