AIの自己改善はすぐには来ない？ 最新研究が示す「創造性の壁」
AI recursive self-improvement might not come so quickly after all (August 2026)
AIが自らを改良する「再帰的自己改善」の到来が期待される中、Princeton大学のPeter Kirgis氏とSayash Kapoor氏らが新たな評価手法「shadow evaluation」を実施。未発表のNeurIPS論文2本をAIエージェントに解かせたところ、両方とも著者らに却下された。エージェントは文献調査や数百の実験をこなす工学能力は持つが、独創的な仮説の探索や失敗からの軌道修正ができず、トップ会議レベルの研究には程遠いことが判明。Kapoor氏は「エージェントは研究そのものを実行するのが明らかに苦手」と指摘する。
今日のAIシステムには、価値ある直感的な創造性が欠けている。彼らは並外れたエンジニアだが、ある種の機械的で定型化された思考の性質が、優れた研究者になることを妨げているかもしれない。
HNでの議論
79- smackeyacky
これらのモデルが自分の出力を自己チェックすることすらできないのに、どうやってRSIに近いことができるんだ？ 例えばGeminiは、特定のタスクで俺に対して30%くらいの確率で自信満々に間違える。答えが間違っていると伝えると、mea culpaを唱えるけど、すぐにまた間違いに戻ってしまう。AI業界は今でも自分たちの予測を大げさに誇張しているように感じる。
- daavidhauser
Opus 4.8とOpenClawだ。この分野はあまりに速く動いているので、このセットアップでの結果は、今どれだけ近づいているかについてほとんど何も語っていない気がする。
- 0xDEAFBEAD
願望的思考には注意が必要だ。人々は何かしらの「デウス・エクス・マキナ」の存在を前提にしたがるだろう。それがすべてをうまくしてくれると。俺は論理を逆にしたい。物事が脱線するまともな確率があるなら、AI開発を止めるべきだ: https://pauseai.info/
- vessenes
まあ、当然だろ。もしOpus 4.8でこれができるなら、俺たちは知っているはずだ。Astraの後継が数学研究で2〜3倍優れていて、内部チームが「到達できると信じている」と言うなら、俺はインサイダーを信じる気になる。
- dgellow
実際の論文へのリンク: https://arxiv.org/abs/2607.27191