CUDA DSLの引退が近づく:AIエージェントが抽象化の仕事を奪う
Retire the Abstractions

スタンフォード大学のHazy Researchチームは、MoE megakernelの開発でCUDA DSLを使わず、AIエージェントに複雑なコード生成を任せた。抽象化は認知負荷を下げる役割を終えつつあり、エージェントがその役割を引き継ぐ。コードベースは曖昧さのないが脆く、プロンプトは曖昧だが移植性が高い。将来は仕様とオラクルが信頼の中心となり、実装は使い捨てになるかもしれない。
抽象化は引退し、アイデアは残る。
HNでの議論
64- bloaf
これは、私がたどり着きつつある結論とは正反対だと思う。誰でもすぐにコードを雰囲気で生成できる時代に、私は高レベルで保証や契約を主張できる能力が欲しい。そして、AIに詳細を解決させる。AIに抽象化の枠組みの中で働くことを強制したいのであって、抽象化から独立して働かせるのではない。
- JSR_FDED
「まず、抽象化は認知負荷を管理する手段であるだけでなく、アプリケーション、再利用、レビューが結びつく共有の表面である。」これはかなり回りくどい書き方だ。
- gradus_ad
正確な仕様は常に与えられなければならない。外部の考慮事項によって形作られるため、推論によって存在させることはできない。実行者の知性がどれほど高くても、関連する外部コンテキストの知識がなければ、仕様は常に明確に定義され、与えられる必要がある。
- socketcluster
私たちはこれまで以上に抽象化を必要としている。本当のポイントは、不要な抽象化を廃止すべきだということだ。良い抽象化は片刃の剣であり、タスクを単純化する。平凡な抽象化は両刃の剣だ。悪い抽象化は、柄が制限的で、刃が自分に向いている片刃の剣のようなものだ。
- vatsachak
これは本当に悪いアイデアだ。LLMエージェントにはセンス(抽象化能力)がない。彼らは水のようなもので、入れる容器の形に合わせて形を変える。自分自身のフレームワークを構築し、その中で彼らが働けるようにすると、彼らははるかに強力になる。