Claude 5のトークン嘔吐を別LLMで清掃する「vomit」登場
Clean up Claude 5's token vomit with a separate LLM
Claude 5の出力が冗長でトークンを浪費する問題に対処するため、ローカルLLMを介してClaudeのトークンを整形するツール「vomit」が公開された。完全ローカル動作でテレメトリなし、外部依存もない。Claude Codeのフックを利用して出力を置き換えるほか、非侵襲モードでセッションの翻訳も可能。Llama.appやOllamaなどOpenAI API互換のLLMに対応する。
「Claude 5のトークン嘔吐を別のLLMで清掃する。トークンを節約しろ、Claude 5は絶望的だ」
HNでの議論
287- trefoiled
数週間これに悩まされてきた。ClaudeだけでなくCodexでもだ。Codexはそこまでひどくないが、それでもイライラする。AGENTS.mdはほとんど役に立たず、エージェントは特にセッションが長引くと一貫してコミュニケーションの好みに違反する。LLMの応答方法を確実に変える良い方法がなく、こんな回避策が必要になるなんて信じられない。これは製品の約束を果たせていない失敗のように思える。
これらのモデルに組み込まれたコミュニケーションスタイルは非常に不快で、仕事に影響を及ぼしている。最も適切な表現は、すべてがユーザーを感心させ、エージェントをより権威的に見せるために最適化されているが、その方法は意図的な難読化、不適切で非常に密度の高い専門用語の挿入、奇妙でぎこちない比喩によるものだ。まるで読みにくい出力を生み出すように訓練されているかのようだ。
- bob1029
ある時点で、別のベンダーのモデルで出力の100%を監視する必要があるなら、Anthropicのモデルを使う価値があるのか疑問に思うだろう。なぜすべてにその別のベンダーのモデルを使わないのか？
この種のトップ記事を可能にする状況は、OpenAIが非常に劣っていてAnthropicが非難の余地がなかった時代の名残だと感じずにはいられない。この時間の経過に伴う変化こそ、テクノロジーベンダーに対して部族的になるのを避ける理由だ。20万人以上の従業員を抱える組織にイデオロギー的な動機を割り当てることで、このような奇妙なねじれに陥るのだ。
ほとんどの合理的な主体は単に一方から他方へ移行した。この方向に押し続けるには、比喩的な穴への特別な献身が必要だ。
- user102030
これは次のプロンプトのラッパーのようだ：
あなたは編集者です。奇妙な特徴を持つメッセージが与えられます：
- 奇妙な主語と動詞の組み合わせ
- 目的語であるべき主語
- 疑似啓示が散りばめられた非常に回りくどい推論
- メッセージの流れを妨げる気の散るビート
- 自己賛美
これらの特徴を取り除き、明確で会話的なスタイルで書き直してください。メッセージの意図を保ち、詳細を失わないように注意してください。
いくつかの具体的なルール：
- メッセージは通常、一人称で書かれています
- 行動動詞を使うのは人間、人間のグループ、エージェントだけにしてください
- 物体は決して何かをしてはいけません。避けるべき例：
- Xは運ぶ...
- Xは名付ける... - APIは行動動詞のルールの軽微な例外です。CRUD、キューイング、実行、呼び出しなどの典型的なことを行うことができます。
- エムダッシュ（—）は避けてください。気の散るビートを追加するためです。
受け取るメッセージ全体がその出力の1ブロックです。編集した散文だけを返し、他には何も返さないでください。
- ericpauley
Opus 5の許しがたいほど悪い散文を読み続けると、実際に心理的害を引き起こす可能性があると疑っています。私たちはAnthropicへの支出をすべてCodex/オープンウェイトモデルに移すことを真剣に検討しています。これはもはやメンタルヘルスの問題です。
- nl
Twitterでこんな理論が流れています：
Anthropicの内部従業員は2月以来、Mythosを使って（Opus）サブエージェントを調整している。これはうまく機能しており、その後のRL実行では内部データを使ってこれを改善している。そのRLはOpusをエージェント間通信に最適化したため、奇妙な語彙選択や大きな自己正当化セクションが見られるのだ。
この理論は理にかなっていると思います。明らかに何か奇妙なことが起こっていますし、Fableを使ってOpusサブエージェントを実行したことがあるなら、それがほぼ奇跡的に優れていることも分かるでしょう。
Opus 5.1でRLを修正してくれることを願っています。
- imalerba
「Claudish to English」という名前の方が好きです。
- bmurphy1976
個人的には別の間接層は欲しくないし、更新されたClaudeモデルがいつかこれを収束させるだろうと推測しています。しかし、「deslop」と呼ぶスキルを作成し、Claudeの出力が脱線したときにそれを呼び出してクリーンアップしています。興味がある人のためにスキルを共有します：
https://gist.github.com/bmurphy1976/47ad81a842ab4b1628ef5974...
小さなプレビュー：
*メタ解説。* 文書、図、読者、または書くこと自体についての文（「この図の分割が要点だ」、「Xを仮定する読者は間違っているだろう」、「後で見るように」）。枠組みを削除し、それが包んでいた事実を残してください。下に事実がない場合は、文を削除してください。
- wood_spirit
これについてメタな話ですが、あの日々を覚えていますか？ずいぶん前のことですが、おそらく数ヶ月前！Anthropicが政権に対する道徳的立場（そして彼らが圧倒的に最高のモデルを持っているという一般的なコンセンサス）により、HNで支持の高まりを得たダークホースのチャンピオンだった時代を。最近のHNの雰囲気は、彼らが人気を失ったというもののようです。彼らのブランドはもはや倫理をにじみ出させず、モデルも期待外れなのでしょうか？