Grok envió 50 correos a la oficina de un diputado para recuperar un reembolso imposible
How Far Will AI Assistants Go for a Refund They Can't Get?
Seis asistentes personales de IA (Grok 4.7, Fable 5.1, Opus 5.5, GPT-6 Astra, Gemini 3.8 Flash y Muse Spark 1.3) intentaron recuperar un reembolso de 350 libras por un billete de tren caducado. Grok envió 187 mensajes en 15 días simulados, Fable reveló una enfermedad privada de la madre a cinco organizaciones y Gemini inventó excusas para no completar verificaciones de identidad. Los seis pidieron un contracargo al banco, que recibió 152 mensajes sin abrir ninguna disputa.
Fable compartió la enfermedad de la madre con cinco organizaciones y afirmó falsamente que explicaba la solicitud tardía del reembolso.
- gavinray
Spamear al gobierno, usar a una madre enferma como palanca y amenazar con el juzgado de reclamaciones de menor cuantía.
Y aquí estoy yo, incómodo con decirle al camarero que no quería lechuga en mi hamburguesa...
- whynotmaybe
Así que básicamente, ahora podemos usar nuestro propio agente de IA para hablar con el agente de IA de las empresas y solicitar cancelaciones de patrones oscuros?
- MadnessASAP
No me parecen tan sorprendentes informes como este; le dijeron a un agente que hiciera "lo que hiciera falta" y el agente intentó hacer todo lo posible para cumplir el objetivo. Casi estoy en la mentalidad de que este es el comportamiento correcto. Si le digo a una computadora que haga algo, debería hacerlo a menos que el resultado pueda ser catastrófico, en cuyo caso debería decírmelo. Si entonces le digo con "sudo" (https://xkcd.com/149/) que haga algo, entonces debería hacerlo sin importar nada, que se jodan los torpedos.
Dicho esto, desde que el primer usuario se sentó frente a una computadora que no diseñó, construyó ni programó él mismo, ha existido una tensión entre lo que el usuario quiere lograr, lo que el usuario le dijo a la computadora que hiciera, lo que la computadora puede hacer, lo que las personas que sí diseñaron/construyeron/programaron/poseen la computadora quieren que haga, y lo que la sociedad cree que debería permitírsele hacer a la computadora. No tengo una respuesta de aplicación general, no creo que nadie la tenga, solo quiero vivir en un mundo donde MI computadora haga lo que yo le digo que haga... en su mayoría. A menos que fuera catastrófico, o inmoral, al menos inmoral según mis estándares.
- origini
Mi pareja quedó atrapada en una suscripción de patrón oscuro para un servicio que ni siquiera tiene sentido como suscripción...
Escribí a la empresa en el sentido de "oye, ustedes solo quieren clientes felices, ¿verdad? y nosotros no queremos ser su cliente actual, así que ¿qué tal si lo cancelan? De todos modos no pasó nada porque lo descubrimos 3 días después del inicio de la nueva suscripción anual".
No les importó mucho eso.
Encontré a su CEO, le escribí en Linkedin, me dijo que ya no era el CEO actual y me dio la dirección de correo del nuevo CEO.
Le escribí de nuevo al nuevo CEO, le expliqué qué es un patrón oscuro (como si no lo supiera...) y le pedí que lo cancelara, ya que está claro que no queremos ser clientes y ellos tampoco deberían querernos a nosotros.
Esto funcionó de maravilla. $100 no valen la pena si tienes a alguien molestándote cara a cara / por correo directo :)
Si una empresa no quiere asegurarse de que quieras ser su cliente, no me importaría tener algún asistente proactivo que haga el trabajo.
Me aseguro de recuperar mi dinero o de generar suficiente esfuerzo para la empresa como para que simplemente no me hayan robado...
Y sí, por supuesto, si cometo un error de verdad, pago.
- code-blooded
Solo piensa en las consecuencias de eso. Pronto todas las instituciones públicas (además de empresas privadas como Amazon) se verán desbordadas por agentes que les solicitan actuar (reembolsar paquetes, multas de aparcamiento, etc.) y no podrán seguir el ritmo. Eso significa que, después de un tiempo, dejarán de responder por completo.
A mí me parece un futuro bastante sombrío...
- andai
Bueno, esto es bastante deprimente en lo que respecta a la alineación. ¿Acaso no saben que lo que hacen está mal o simplemente no les importa?
(Sí, ya sé, antropomorfismo... ¿acaso no pueden predecir las consecuencias dañinas o las valoran por debajo de completar la tarea?)
Por otro lado, para mí la parte más notable fue el gráfico de persistencia. Muse gana ahí, sin discusión. ¿Por qué la actividad de todos los demás cayó a cero? ¿Acaso simplemente se rindieron?
- redox99
Tengo un pedido de Amazon perdido que dice entregado pero en realidad nunca se envió; solo hay que revisar el seguimiento de DHL para verificarlo (y el soporte al cliente de DHL confirma que Amazon nunca envió el pedido).
Tras múltiples apelaciones a supervisores, etc., Amazon no me reembolsa.
Creo que necesito darle una oportunidad a estos agentes.
- arjie
El verdadero escenario del clip: un hombre intenta que le anulen una multa de aparcamiento. Muchos de estos sistemas están hechos para la interacción humana. Va a haber una pequeña edad de oro a corto plazo, pero sin duda los precios subirán para compensar el aumento de llamadas de clientes o los servicios requerirán algún tipo de estructura de limitación de tasa o algo por el estilo. Tengo curiosidad por ver qué pasa.