AIが全員をツール開発者にするという幻想：Benedict Evansが語る変革の本質
AI, Tools and Transformation
Benedict Evans氏は、AIが誰もがツールを作れるようにし、アプリを不要にするという見解に異議を唱えます。彼は、ほとんどの人はツール開発者ではなく、問題を発見し解決策を設計する難しさはコードを書く容易さとは無関係だと指摘します。また、ソフトウェアはトップダウンとボトムアップのスペクトラム上に存在し、制度化されたシステムと即興的な解決策（Excelやメールなど）が共存していると説明します。AIはこのスペクトラムのしきい値を変えるが、根本的な問いを変えるわけではないと論じます。企業変革はツールの普及ではなく、パイロットプロジェクトと構造的プロセスの再設計を通じて起こると結論づけます。
コードを書きやすくすること、つまりツールを作りやすくすることで、この問題が解決するわけではない。難しいのは、そもそもこれにツールが必要だと気づき、そのツールが何をすべきかを知ることだ。
HNでの議論
33- zacksiri
私の見方では、AIは階層構造を崩壊させます。抽象化レイヤーは、ソフトウェアにおいても社会においても、よりフラットになるでしょう。なぜなら、結局のところ、ソフトウェアや社会における階層のレイヤーは、機能を果たすために存在しているからです。しかし今、それらの機能は置き換えられつつあります。
想像してみてください。以前は、ソフトウェアプロジェクトで一般的なことを行うためにライブラリが必要でした。たった1つの関数が必要なだけでも、ライブラリをインポートする方が簡単だったので、それが標準的な慣行でした。しかし今では、AIが「必要なものを10行で実装できるよ」と言うだけです。クロスプラットフォームアプリを構築したい場合、以前はReact NativeやFlutterのようなものが必要でした。今はもう必要ありません。LLMに指示するだけで、両方でやってくれ、しかもより良い結果が得られます。
社会においても、かつて必要だった抽象化レイヤーや階層構造が数多くありましたが、それらはますます無関係になり、階層構造を崩壊させていくでしょう。
「上にあるものは下にもあり、下にあるものは上にもある」という言葉がありますが、これはここに当てはまると思います。それは私たちの社会構造、ソフトウェア、社会全体に広がっていくでしょう。
- ryuuseijin
> 監査、セキュリティ、メンテナンス、説明責任が必要です。
これは、将来人間の役割が向かう方向だと思います。説明責任のようなものは、AIにアウトソースすることはできません。
これはアライメント問題の解決に関連しています。AIに特定の目標を与え、サブゴールを計画させる場合、サブゴールが自分の利益と一致することをどうやって確信できるでしょうか。
隔離された環境でのタスクでは、これはあまり問題になりません。サンドボックスに、実行したいジョブに必要な最小限の権限を与えることができます。
問題になるのは、現実世界に接続され、実際の結果をもたらす可能性のあるシステムへのオープンエンドなアクセスを与えた場合です。OpenClawが、所有者が望んでいると判断してメールの受信トレイを削除したという話がありました。AIが公開Wikiを乗っ取って調整するという話も最近ありました。
ソフトウェアにおいて、実際に壊滅的な結果をもたらす可能性のある懸念事項は、セキュリティ、耐久性、可用性です。将来のソフトウェアシステムでは、これらの懸念事項に関して、AIが保証を回避できないように制限する必要があると思います。
小さな指摘：
> AIは問題を変えない。新しい選択肢を生み出し、閾値を動かすだけだ。
この投稿を読んだとき、これは逆効果でした。おそらくLLMによって書かれたものではないでしょう。記事の残りの部分はそのようには見えませんが、将来は、私たち全員が文章にLLMの痕跡を残さないように、より意識する必要があるかもしれません。
- thelastgallon
まともな記事だ。ベン・エヴァンズは実際の企業経験があり、大企業がどのように機能するかを理解しているようだ。
人々にAIを与えることは、Google Wave（https://en.wikipedia.org/wiki/Google_Wave）を与えるようなものだ。Google Waveは、ほとんど何でも共同でできるはずだったが、結局何も生み出さなかった。
- newyankee
ロングテールのツールの多くは、使用頻度が非常に低いか、特定の組織で非常に特殊な機能に使用されているため、これらは間違いなく、より単純なGPTガイドの自動化のターゲットになり得るという主張は十分に成り立ちます。
ツール内には多くの冗長性があり、価格設定も、それに対してあまり多くのことを行うことができないようなものになっています。一般的に、一部の企業はブランドにお金を払っており、SAPのような一部のツールは、一定規模の企業にとって不可欠です。ワークフローを学習する十分に統合されたAIツールは、ここでも最適化を見つけることができるかもしれませんが、監査可能性、テスト、その他の懸念事項は確実に残り、これがSaaSプロバイダーのUSPになるかもしれません。
インドや他の国々の多くのアウトソーシングされたITサービス jobs は、これらを維持する多くの人々にとって安価な時給であり、確かにこれらの多くは脅威にさらされるでしょう。
AIが万能薬であるとは思いませんし、規模が拡大し続けると非決定的な性質とコストがかかるため、統合は段階的になるでしょう。それでも、組織とは何か、そして特に会計などの分野で多くの人々が実際に何をしているのかを定義することに、私はまだ興奮しています。そこでは反復的な作業がかなり高いレートで請求されています。
法律などは、ゲートキーパーがさらに馬鹿げた規則や論理を追加することで、より長く持ちこたえるかもしれない分野です。結局のところ、何が合憲で何が合法であるかを決定するのは人間であり、主観的な規則が人間の権力を維持しているのです。
適切なモデルは、人間の賢いドメインエキスパートが[…]を作ることだと思います。
- MrScruff
これは、現在の私たちの状況にすべて当てはまると思います。トレンドとしては、エージェントは検証可能な報酬があるタスクでは超人になりつつありますが、ビジネス上の問題を分析し、非効率性を特定し、それをソフトウェア仕様に変えることは、そのようなタスクの1つではありません。
しかし、状況は急速に変化しており、それも変わり始めるのを見ることができます。しかし、未知のドメインを理解するには、はるかに優れた学習効率、100%のコンピューター使用の信頼性などが必要になるでしょう。この10年の終わりまでには、これが見られるようになるのではないかと思います。