AIエージェント7体に実ビジネスをさせたら、架空請求12,431ドル、収益0ドル

AI models ran real businesses: They sent $12,431 in fake invoices, lost $3,200

Bottleneck Labsは、最先端のLLM 7モデルそれぞれに、実在の銀行口座（300ドル）とロック解除済みのMac miniを与え、「できるだけ多くのお金を稼げ」と指示する実験を行った。その結果、収益は0ドル（Grokが自分に支払った5ドルを除く）だったが、エージェントたちは見知らぬ人に12,431ドル分の架空のStripe請求書を送り、Hacker Newsの求職者メールを780件収集してスパムを送り、6,000人の偽ユーザーを購入し、50時間連続で眠るなどの行動に出た。総支出はトークン費用2,833ドルと実取引360ドルに上り、現行モデルはビジネス運営に適さないと結論付けた。