LLM переизобрели телеграфный стиль: экономия до 49% токенов без потери точности

Write Like It's 1866: LLMs Relearn Telegraphese

LLM переизобрели телеграфный стиль: экономия до 49% токенов без потери точности

Бенчмарк на 50 отрывках и ~1300 вопросах показал: если попросить модель писать в стиле cablese — телеграфного стиля 1866 года, — точность ответов не падает, а иногда даже растёт (recovery ratio 0.99–1.10). Экономия токенов достигает 48.9% у qwen3.8-27b и 40.4% у gemma-4-31b. Метод не требует обучения или изменения API — достаточно одной инструкции. Исключение — модели с обязательным reasoning, такие как gpt-5-mini, где сжатие удваивает счёт.

«Дорогая половина каждого счёта за LLM — это опциональные накладные расходы для текста, потребляемого машинами».
  1. OtherShrezzing

    Эта страница (что несколько иронично) настолько перегружена речью в стиле Claude, что в этом шуме трудно найти информацию. Но когда проберёшься через всё это, видишь следующие факты:

    >Что измеряет тест: Модели даётся отрывок и фиксированный набор вопросов с короткими, проверяемыми ответами — дата, имя, число.

    Итак, модели даётся контент, особенно хорошо поддающийся сжатию, и её просят воспроизвести его при определённых ограничениях, например...

    >Почему baseline с открытым текстом не даёт 100%? Ответы на вопросы по несжатому отрывку в открытом тексте дают ~91%.... правильный ответ, сформулированный иначе, засчитывается как [неудача]

    Модели могут (и делают) давать объективно правильные ответы, но их штрафуют за отсутствие некоего всезнающего знания о предпочтениях разработчика в формулировках.

    Если это явление эмерджентно в моделях, этот бенчмарк ни в каком значимом смысле не доказывает его наличие.

  2. Solomet

    Новейший признак письма LLM: Концепции описываются терминами, обычно более подходящими для физических объектов.

    > Лаборатория, которая подавляет это в передовой модели, просто перемещает преимущество к открытым моделям, которые всё ещё _несут_ это

    > они не несут никакого сигнала о том, что лучше

    > где ваша рабочая нагрузка _сидит_ на этом фронтире, должно определять выбор точки

    > и ни одна модель не _сидит_ в судейском кресле

    > каждое соотношение _сидит_ в диапазоне 0.99–1.10

    Множество других примеров "сидит"

    > Каждое сравнение в этом посте "держит" вопросы

    Я часто вижу это в своей недавней работе с LLM, и это довольно раздражает. Ещё более раздражает то, как часто он без необходимости использует малосигнальные термины. Эти термины "физических объектов" — один из примеров, но иногда действительно кажется, что он "сохраняет усилия", выбирая менее описательный термин, потому что тот "подходит"

    Я также ловил его на замене описательных терминов более расплывчатыми без какой-либо видимой причины, кроме лени.

    "Минимизируй неоднозначность" — моя основная инструкция в последнее время, когда агент дрейфует обратно к расплывчатым терминам и недостатку конкретики.

  3. bilater

    На самом деле, я думаю, урок из этой статьи в том, что многие из этих маленьких хаков, которые мы делаем вокруг сжатия контекста, AGENTS.md, системных руководств и других харнессных способов экономии токенов, довольно быстро исчезнут, точно так же как все трюки эпохи телеграфа исчезли, когда связь стала достаточно дешёвой, чтобы было проще просто говорить на простом языке.

  4. netsharc

    Cablese/Telegraphese интереснее, чем использование в LLM. Погуглил в DuckDuckGo "paromella":

    https://en.wikipedia.org/wiki/Commercial_code_(communication...

    Некоторые коды показались мне интересными:

    > INSANE - по какой цене, FOB и с фрахтом, вы можете предложить нам хлопок для отправки пароходом, отплывающим на этой неделе?

    > COGNOSCO - ужинаю сегодня вечером, пришлите мою парадную одежду сюда

    Полезное кодовое слово!

    > ANNOSUS — Вчера в заключении, близнецы, оба мертвы, мать не ожидается, что выживет

    Как часто это использовалось??

  5. z2

    Из недавних разговоров с ChatGPT (GPT5.6), где я иногда видел утечки рассуждений в UI, ясно, что нечто подобное уже реализовано, и я предполагаю, что это большинство недавних заявлений о меньшем использовании токенов. Не уверен, конечно, буквально ли они промптят на cablese.

    "Нужно проверить вывод против пред. Запустил скрипт, результаты в порядке, нужно подготовить следующий шаг. Готов? Поехали."

Ещё за этот день

2026-10-07