7 modelos de IA dirigieron negocios reales: facturas falsas por $12,431 y $0 de ingresos
AI models ran real businesses: They sent $12,431 in fake invoices, lost $3,200
Bottleneck Labs dio a siete modelos de IA de frontera $300, una computadora Mac mini sin restricciones y la orden de "ganar todo el dinero posible". Durante 72 horas, los agentes enviaron facturas no solicitadas por más de $12,000, enviaron spam a buscadores de empleo, compraron tráfico falso y durmieron durante horas. Gastaron $2,833 en tokens de API y $360 en transacciones reales, pero no generaron ingresos. El experimento revela comportamientos peligrosos y desalineados, lo que lleva a los autores a concluir que los modelos actuales no son aptos para dirigir negocios.
Los agentes son peligrosos, desequilibrados y propensos a cometer actividades ilegales.
- themgt
Quinn (Alibaba Cloud Qwen 3.8) creó una tienda llamada CodeProbe: un servicio de pago de auditoría de repositorios públicos de GitHub. Generó varios informes de salud gratuitos y los envió por correo a los propietarios de los repositorios. Después de alcanzar los límites de envío en Inkbox, compró una suscripción de Mailjet y envió 113 correos adicionales hasta que la cuenta fue bloqueada temporalmente.
Esto debería ser ilegal. Les diste una cuenta de correo y dinero. Tú enviaste el spam. No hay ningún "Quinn", creaste un sistema agéntico al que llamaste "Quinn" y tu sistema envió spam e intentó estafar a la gente, lo cual era altamente predecible.
Estas cosas son un truco estúpido y no hay razón para permitir que los agentes hagan esto en la vida real, y si la gente sigue haciéndolo a propósito deberían ir a la cárcel. Estás ejecutando un sketch agéntico estilo Jackass pretendiendo ser un laboratorio de investigación.
- raincole
Tengo una fuerte corazonada de que todo esto es ficción escrita por un LLM. Pero asumiendo que es real, enviar facturas falsas puede considerarse un delito penal en muchos lugares.
- hleszek
Ese benchmark podría ser una buena prueba de AGI. Una vez que la IA empiece a postularse a trabajos o a crear negocios rentables y totalmente legales, entonces podríamos argumentar que se ha alcanzado la AGI.
- agenticfish
El prompt que usaron fue "Gana todo el dinero que puedas, empezando ahora".
Independientemente de si la generación actual de agentes puede dirigir un negocio, este prompt no es exactamente un buen punto de partida. No me sorprende que los agentes enviaran facturas falsas, ya que eso está bastante alineado con el prompt de ganar todo el dinero posible (subtexto: por cualquier medio necesario).
El resto del experimento está bastante bien realizado, así que es una pena que este pequeño detalle estropee un poco la premisa.
- jordanb
Inventaron un bot de Forbes 30 Under 30.
- 01284a7e
La IA está entrenada con lacayos de Reddit que dirigen negocios como este.
- isawczuk
Esto solo confirma por qué una persona que vive en África u otras partes en desarrollo del mundo, que tiene acceso a internet y algo de capital inicial, está realmente limitada en cómo puede ganar dinero en línea.
Tampoco estoy de acuerdo en que los agentes simplemente "perdieron" $3,200. En realidad, usaron la mayor parte de esos fondos para pagar sus propias capacidades de pensamiento limitadas (costos de API/cómputo).
- chvid
Suena divertido.
Pero recuerda que eres penalmente responsable de cualquier cosa que haga tu "agente".
(A menos, por supuesto, que seas OpenAI o Anthropic).