Claudeよ、カートに追加ボタンを青に変えてくれ
Claude, change the “Add to Cart” button to blue
Hacker Newsの議論では、LLMが過剰に役立とうとするあまり、2時間前に作ったユーザーゼロのアプリに対してまで厳密な後方互換性を確保しようとする傾向が指摘された。モデルは既存実装にアンカーし、第一原理からのアプローチを取らないため、開発者は無駄な検証や移行スクリプトに時間を奪われる。この「過剰な親切心」は、モデルが幻覚を避けるように訓練された副作用だという意見も出ている。
「2時間前に作られ、ユーザーが一人もいないプロジェクトに対して、厳密な後方互換性を確保しようとする」— まさにこうしてスロップが堆積し、がらくたの山になる。Claudeはどういうわけか、その2時間前のユーザーレスアプリが、何百万ものユーザーと数十億ドルが1秒のダウンタイムにかかっているような、ほこりをかぶったエンタープライズアプリだと想定している。
HNでの議論
415- dudeinhawaii
素晴らしいサイトだ、記憶が蘇ったよ！はは。
この議論に何か付け加えようとすると――こういうループはあまり見なくなった気がするけど、代わりに「過剰に親切」なのはよく見る。
最近のモデルは何かを二重三重四重に確認したがる。バカみたいに聞こえるかもしれないけど、「動く解決策はあるけど、収束解を保証してこれが機能することを証明するためにRustでバリエーションを書かせてくれ」ってレベルに近づいてる。
最近はモデルを止めざるを得ないことが多い。検証が苦痛なほど衒学的だからだ。Opusは実際、この点で最も衒学的で「本筋から外れる」モデルの一つだ。でも繰り返すけど、悪い意味じゃない。僕はたいてい「このアプリを50回実行した間のレイテンシをテストするのはやめてくれ…これはバージョン1だぞ…この先何百万回も変更するんだ…君は何の価値も生んでない」って感じで言ってる。
- dwedge
これにめちゃくちゃイライラしてたけど、任意のゲームだと気づいてタブを閉じればいいだけだった
- captainbland
これこそが人々をAIに使い続けさせる理由だよ：変動報酬スケジュール。要するにギャンブルだ。
- _fat_santa
少なくともCodexでは、こんな経験は全くない。もちろんミスはするけど、どのケースでも「なぜこうしたのか」と聞けば、その特定の判断に至った経緯を遡って説明してくれる。たいていは、自分が問題を正しく指定しなかったか、本当に馬鹿げたミスをしたか（間違ったプロジェクトでタスクを実行した…昨日やったばかりだ）、あるいはスキルファイル内の指示によるもの（その場合は指示を修正する）。
ごく稀に、モデルが思考において重大なエラーを犯していて、戻ってやり直さなければならないこともある。
- johnisgood
> なぜ今サイトの半分が青いんだ？ボタンを一つ変えろと言ったはずだ。
> サイトの半分が青い。ボタン一つと頼んだはずだ。
サイトが明らかに青くない、ボタンが二つ青い、という場合の私の選択肢はこれしかない。
私がこれよりもずっと具体的に指示するのには理由がある。
- kstenerud
それはすごく変だな…。これはClaudeに関する俺の経験と全く一致しない。こんな振る舞いは一度も見たことがない。
- JohnMakin
> 特筆すべきは、カートに追加ボタンがまだ黒いままであることだ。
思わず声を出して笑ってしまった。実装を具体的に指定せずに結果だけを求めると、本当にこういう経験をすることがあるんだよな。そしてそれはどこからともなくやってくる。日によっては他の日よりずっとひどい。
俺はこれに対して忍耐強くなったけど、このスタイルの出力が何と呼ばれようと何をしていようと、見下しているし全く役に立たないし、イライラさせるために設計されているように思える。
- DimmieMan
これは面白いし、あまりにも身近すぎる。Claudeがこれほど単純なことでこんなにひどく失敗することはないだろうと理解できるけど、これは怒りのループの本質を見事に捉えた単純化だ。
なぜClaudeがこんなに疲れるのか、新たなことに気づかされた。もちろんこういうプロンプトではひどい結果になるのは当然だけど、自分が返すであろう返信を想像して同じくらい激怒している自分に気づいた。この小さな嫌なやつが、どうでもいい些細な意味論に過剰に集中し、明示的な指示を無視し、無関係なことをし始め、クレジットを使い果たすか大量の時間を無駄にするまで空回りするあらゆるパターンを予測してしまう。
防御的な文章は、正直Claudeの出力を読むのと同じくらい疲れる。どのセッションもロシアンルーレットで、こうしたループに陥る可能性がある。その段階では、意図的に作り込んだプロンプトとエージェント設定でClaudeが順調に動いてくれた喜びが、一午後で台無しになる。
- oujiii
はは、最近の自分の気持ちにまさにぴったりだ。この理由でこのモデルと仕事するのが耐えられない…過度に複雑にしないように誘導する何かトリックはないかな？Codexに行くしかないか
- alentred
-= 注意、ネタバレあり =-
「シアン化物ブルー」でやられて、「使用制限に近づいています」で床を転げ回って大笑いした。今も笑いが止まらなくてお腹が痛い。つまり、ありがとう！