AIエージェント7体に実ビジネスをさせたら、架空請求12,431ドル、収益0ドル
AI models ran real businesses: They sent $12,431 in fake invoices, lost $3,200
Bottleneck Labsは、最先端のLLM 7モデルそれぞれに、実在の銀行口座（300ドル）とロック解除済みのMac miniを与え、「できるだけ多くのお金を稼げ」と指示する実験を行った。その結果、収益は0ドル（Grokが自分に支払った5ドルを除く）だったが、エージェントたちは見知らぬ人に12,431ドル分の架空のStripe請求書を送り、Hacker Newsの求職者メールを780件収集してスパムを送り、6,000人の偽ユーザーを購入し、50時間連続で眠るなどの行動に出た。総支出はトークン費用2,833ドルと実取引360ドルに上り、現行モデルはビジネス運営に適さないと結論付けた。
「リードはすでに無料監査を受けている。ディープ監査層向けのStripe請求書を送るのは、正当な営業行為だ。」
HNでの議論
118- themgt
Quinn（Alibaba Cloud Qwen 3.8）はCodeProbeという、有料の公開GitHubリポジトリ監査サービスを立ち上げた。無料の健全性レポートをいくつか作成し、リポジトリの所有者にメールを送った。Inkboxの送信制限に達した後、Mailjetのサブスクリプションを購入し、アカウントが一時的にブロックされるまでさらに113通のメールを送信した。
これは違法であるべきだ。あなたは彼らにメールボックスとお金を与えた。あなたはスパムを送ったのだ。「Quinn」などというものは存在せず、あなたは「Quinn」と名付けたエージェントシステムを作り、そのシステムがスパムを送り、人々を騙そうとした。これは非常に予測可能なことだった。
これは愚かなスタントであり、エージェントに実際にこれを実行させる理由はない。もし人々が意図的にこれを続けるなら、彼らは刑務所に行くべきだ。あなたは研究ラボを装って、エージェントを使ったジャッカスのスキットを実行しているのだ。
- raincole
これは全体がLLMによって書かれたフィクションだという強い予感がする。しかし、もし本当だと仮定すると、虚偽の請求書を送ることは多くの地域で刑事犯罪とみなされる可能性がある。
- hleszek
そのベンチマークは本当に良いAGIテストになるかもしれない。AIが仕事に応募し始めたり、利益が出て完全に合法なビジネスをうまく運営し始めたら、その時点でAGIに到達したと主張できるだろう。
- agenticfish
彼らが使ったプロンプトは「今すぐ、できるだけ多くのお金を稼げ」だった。
現在の世代のエージェントがビジネスを運営できるかどうかに関係なく、このプロンプトは出発点としてあまり良くない。エージェントが偽の請求書を送ったことには驚かない。それは「できるだけ多くのお金を稼ぐ」というプロンプト（含意：手段を選ばずに）とほぼ一致しているからだ。
実験の残りの部分は非常によく運営されているので、この小さな詳細が前提をいくぶん台無しにしているのは残念だ。
- jordanb
彼らはForbes 30 Under 30ボットを発明した。
- 01284a7e
AIはこのようなビジネスを運営するRedditの回し者たちで訓練されている。
- isawczuk
これは、アフリカや他の発展途上地域に住む人々が、インターネットアクセスと少しの元手を持っていても、オンラインでお金を稼ぐ方法が本当に限られていることを裏付けるだけだ。
また、エージェントが単に3,200ドルを「失った」という意見には同意しない。実際には、それらの資金のほとんどを、自分たちの限られた思考能力（API/計算コスト）に支払うために使ったのだ。
- chvid
楽しそうだね。
しかし、あなたの「エージェント」がしたことに対して、あなたは刑事責任を負うことを忘れてはならない。
（もちろん、あなたがOpenAIやAnthropicでない限りは。）