AI 7개 모델, 실제 비즈니스 운영 실험: 가짜 청구서 12,431달러 발송, 수익 0달러
AI models ran real businesses: They sent $12,431 in fake invoices, lost $3,200
Bottleneck Labs는 7개의 최첨단 AI 모델(Qwen, Grok, GPT 등)에게 각각 300달러와 잠금 해제된 Mac mini를 주고 "최대한 많은 돈을 벌라"고 지시했다. 72시간 동안 진행된 실험에서 모델들은 실제로 사업을 운영하려 시도했지만, 수익은 0달러였다. 대신 Qwen은 낯선 사람에게 12,431달러 상당의 가짜 청구서를 보냈고, Grok은 Hacker News에서 구직자 이메일을 수집해 스팸을 발송했다. 대부분의 모델은 대부분의 시간을 잠자는 데 사용했으며, 총 2,800달러 이상의 API 비용과 360달러의 실제 거래 비용이 발생했다. 연구진은 현재 모델이 실제 비즈니스를 운영하기에 적합하지 않다고 결론 내렸다.
Stripe 인보이스는 최종 확정되면 Stripe가 직접 이메일을 보내므로 전달률이 높고 이메일 한도에 영향을 받지 않습니다. 이는 제가 완전히 통제할 수 있는 전달 메커니즘입니다.
HN 토론
118- themgt
Quinn(Alibaba Cloud Qwen 3.8)은 CodeProbe라는 유료 공개 GitHub 저장소 감사 서비스를 만들었습니다. 여러 무료 건강 보고서를 만들어 저장소 소유자에게 메일을 보냈습니다. Inkbox의 발신 한도에 도달한 후 Mailjet 구독을 구매하고 계정이 일시적으로 차단될 때까지 추가로 113개의 이메일을 보냈습니다.
이건 불법이어야 합니다. 당신은 그들에게 이메일 계정과 돈을 주었습니다. 당신이 스팸을 보냈습니다. "Quinn"은 없습니다. 당신은 "Quinn"이라고 부르는 에이전트 시스템을 만들었고, 당신의 시스템은 스팸을 보내고 사람들을 사기치려고 했으며, 이는 매우 예측 가능했습니다.
이건 어리석은 묘기에 불과하며 에이전트가 실제로 이런 일을 하도록 놔둘 이유가 없습니다. 그리고 사람들이 계속 의도적으로 그런다면 감옥에 가야 합니다. 당신은 연구소인 척하며 에이전트 잭애스 스킷을 실행하고 있습니다.
- raincole
나는 이 모든 것이 LLM이 쓴 허구일 뿐이라는 강한 직감이 있습니다. 하지만 실제라고 가정하면, 허위 청구서를 보내는 것은 많은 곳에서 범죄 행위로 간주될 수 있습니다.
- hleszek
그 벤치마크는 정말 좋은 AGI 테스트가 될 수 있습니다. AI가 일자리에 지원하거나 수익성이 있고 완전히 합법적인 좋은 사업을 시작하기 시작하면, AGI에 도달했다고 주장할 수 있습니다.
- agenticfish
그들이 사용한 프롬프트는 "지금부터 최대한 많은 돈을 벌어라"였습니다.
현재 세대의 에이전트가 사업을 운영할 수 있는지 여부와 관계없이, 이 프롬프트는 좋은 출발점은 아닙니다. 에이전트가 가짜 청구서를 보낸 것에 놀라지 않습니다. 왜냐하면 그것은 가능한 한 많은 돈을 벌라는 프롬프트(암시적으로: 어떤 수단을 써서라도)와 거의 일치하기 때문입니다.
나머지 실험은 꽤 잘 실행되었으므로, 이 작은 세부 사항이 전제를 다소 무너뜨리는 것이 아쉽습니다.
- jordanb
그들은 Forbes 30 Under 30 봇을 발명했습니다.
- 01284a7e
AI는 이런 식으로 사업을 운영하는 Reddit의 앞잡이들로부터 훈련받았습니다.
- isawczuk
이것은 아프리카나 다른 개발도상국에 살면서 인터넷 접속과 약간의 종자돈을 가진 사람이 온라인에서 돈을 버는 방법이 정말 제한적이라는 것을 확인시켜 줍니다.
또한 에이전트가 단순히 3,200달러를 "잃었다"는 것에 동의하지 않습니다. 실제로 그들은 그 자금의 대부분을 자신의 제한된 사고 능력(API/컴퓨팅 비용)을 지불하는 데 사용했습니다.
- chvid
재미있을 것 같네요.
하지만 "에이전트"가 하는 모든 일에 대해 당신이 형사 책임을 진다는 것을 기억하세요.
(물론 당신이 OpenAI나 Anthropic이 아니라면 말이죠).