トークン切れで仕事が止まる日々：AI時代のエンジニアは何をすべきか
Is the industry ready for tokens-constrained work?
コンサル会社の開発者が1日のトークン上限に達し、マネージャーに追加を求めたところ「皆同じだ」と断られたという投稿が話題になった。並列実行されるエージェントの作業を人間が途中から引き継ぐのは難しく、手作業で数時間かけた成果をLLMが数秒で作り直すこともある。企業は依然として時間ベースの労働を前提としており、トークン制約が生む「やることがない」時間をどう扱うかが問題だ。Uberが4月に年間トークン予算を使い切った事例も示すように、エンジニアリングは制約管理から逃れられない。
80年代にプログラムを数キロバイトに詰め込むために戦ったのなら、今私たちは最も有用なLLMの作業を、手の届くトークンに詰め込まなければならない。
HNでの議論
71- sokoloff
トークンを支出額や数で配給するのは私には意味が分からない。ソフトウェアエンジニアを雇うのに月に1万〜2万ドル払っているのに、月500ドルや1000ドル、あるいは2000ドルのAI請求を渋るなんて、仮に彼らが多少なりとも生産的にトークンを使おうとしているなら、なおさらだ。
私はAIマキシマリストではないが、「数日間はAIで働いて、コストのせいで残りの月はAIなしで過ごす」というのは文字通り狂気の沙汰に聞こえる。（AIが低価値・ゼロ価値・マイナス価値だと思うなら、前半をやるべきではない。純価値があるなら、後半をやるべきではない。）
- jgmedr
現在、私の雇用主でこの状況を乗り越えようとしているところだ。GitHub Copilotの請求条件の変更により、ソフトウェアエンジニア一人当たりのトークン支出は事実上無制限から月150ドルに減らされた。1か月に配給すると、1日あたり約7.50ドルだ。基本的に、数人の悪いリンゴが集団を台無しにした（divを中央揃えするのにOpusを使っていた契約社員たち）。
この新しい方針が始まって15日が経つが、まあまあうまくいっている。エンジニアはいつものように適応し、`gpt-5.6-luna xhigh`に頼っている。一部の契約社員はすでに月間予算の上限に達している。
ここでいくつか観察がある：
1. LLMやエージェントはツールであるため、その使用を制限することは気を散らすものになり、結局は個人の生産性を低下させる。「ただ仕事をする」代わりに、エンジニアはセットアップ（グラフ、原始的なスキルなど）をいじるのに時間を浪費している。
2. スキルの衰えは現実だ。予算を使い切ったエンジニアは、明らかに生産性が低く、能力も低いように見え、これは非常に憂慮すべきことだ。
3. 現在、標準的なプロバイダーを経由することに伴うコストを相殺するために、オープンソースのハーネス（opencode/pi）やオープンウェイトモデルを会社で探るという正当な議論が行われている。
4. トークン価格はベンチャーキャピタルの補助金だ。これは基本的に、市場を中毒性のあるホワイトカラー向けドラッグに依存させるための無料サンプルだ。Uberが7ドルだった時代を覚えているか？ OpenAIとAnthropicが上場するとすぐに、収益性に向けた進捗を示し始める必要がある。その時こそ、トークンの真の価格が明らかになるだろう……
- toofy
これは過去に起こったことと同じになるだろう。
私の記憶が正しければ、昔は「メインフレーム」の利用時間が限られていた。だから結局、彼らはローカルモデルに相当するもの、つまり小さなタスクをローカルで処理できる小さなコンピューターを持ち込んで、メインフレームの神々に金を払い続けて利用時間に縛られることを避けた。
これが実際にそうだったかどうかは、私の時代より前のことなので、間違っているかもしれない。しかし、人々はそうだったと説明している。
ほとんどの仕事はSOAなんて気にしていないと思う。小さな反復可能なタスクは、小さなローカルモデルで十分に実行できる。確かに、スーツケースサイズのラップトップから今日使っているものに移行したように、時々モデルをアップグレードするだろう。
ハイプドークたちが推している「SOAだけが道だ」という考えは笑える。趣味人はクラシックカーや木工用の工具、その他に馬鹿げたお金を使う。自宅で趣味にお金を使うことは、オタクたちが趣味をやめることを妨げたことはないし、ビジネスも同じで、ローカルでモデルを実行するためにお金を使うだろう。
ハイプゴミがいつものようにハイプがそうするように、無関係になるまで消え去るのが早ければ早いほど、私たちは早く仕事に戻れる。
- stephbook
ここ数年、インターネットがダウンしてメールもMicrosoft Teamsも「npm install」もスタックオーバーフローもGoogleも、他の拠点との連携もなかったとき、何が起こったか知っていますか？
PCが壊れたとき、何が起こるか知っていますか？建設現場でショベルカーが故障したとき、何が起こるか知っていますか？
何も起こらない——それでいいのです。
- cebert
私もこれについて同様の懸念を持っている。この1年ほど、ソフトウェアエンジニアは雇用主からAIツールやエージェント型コーディングの採用を奨励されてきた。今、私の会社を含む多くの企業がトークン支出の削減に乗り出し始めている。
私は脆弱性レポートへの対応や、入ってくる欠陥の初期トリアージなどのタスクをこなすために、エージェント型ツールを完全に受け入れる方法を学んできた。特定のカテゴリのタスクで自分をより生産的にしてくれるツールが利用可能だと分かっている今、昔ながらの方法で物事を行うのは難しい。
私の雇用主は、レベルに応じて全エンジニアのトークン支出を月200ドルまたは500ドルに上限設定することを検討している。私は現在、毎月1,000ドル以上を使っているが、それらのトークンが生み出す価値に対して強いビジネス上の正当性を示せると信じている。
この時点で、エンジニアは新しい役割を検討する際に、トークンの予算がいくらかを尋ねるようになるかもしれない。