AIが自己検証を身につけたとき、「監査」の価値がすべてを決める
The Auditor's Opinion
8ドルでAIエージェントにウェブサイトを再構築させ、エージェント自身に誤りを検出させるデモが話題に。しかし、この成功は「検証」の価値を消すどころか、むしろ「検証の証明」の価値を高める。会計監査、格付け、UL認証、SSL証明書——歴史は常に、能力がコモディティ化すると独立した第三者による保証が価値を持つことを示してきた。AI時代も同じ構造が繰り返されるという鋭い論考。
誰もが検証できるようになると、「我々は検証した」という言葉は何の意味も持たなくなる。価値は消えるのではなく、それを「証明」できる者へと移るのだ。
HNでの議論
15- _dwt
だから、この（AIが書いた）記事が面白いのは主にコメントのいくつかのせいだと思う。コメント欄では、Cringelyが死を目前にしてこんなものを出していると嘆く声があり、しかもその人たちは死亡記事でそれを裏付けてもいる。
- trjordan
何を監査するんだ？
まだソフトウェアの話をしていると仮定する。監査は何を証明する？
会計士は帳簿が整合していることを監査する。整合性を偽装して不正をするのは極めて難しい、特に第三者が絡む場合は。銀行への支払いが送金され、請求書が支払われたから、計算の端々が確定する。だから内部整合性は検証可能で価値がある。
しかしソフトウェアは。あなたはそれが望む通りに動くことを証明しているのか？でも、あなたは望むことを書き留めていない。あるいは、仕様駆動開発や詳細なWikiなどに凝っているなら、書き留めているかもしれない。でもほとんどの人はそうしていないし、そうしたドキュメントはすでに時代遅れだ。
ここには何かあると思う。なぜなら、我々は皆、エージェントにソフトウェアがどうあってほしいかを伝えているから。だからそれに照らして監査できるかもしれない。でもこれは会計とは同じではない。
- tptacek
Pangramはこれを100% AIが書いたと判定している。