Claude y ChatGPT recomiendan precios más altos a los usuarios con mayor patrimonio
Study: Claude, ChatGPT Offer Different Shopping Prices Based on Wealth
Un estudio revela que los chatbots de IA actúan como asistentes de compra de forma desigual: Claude y ChatGPT ofrecen recomendaciones de precios distintos según el nivel de riqueza que perciben en el usuario. El hallazgo, publicado por Bloomberg, podría avivar los llamados a regular estos sistemas por su impacto en los consumidores.
El estudio muestra que los chatbots de IA ofrecen consejos de compra diferentes en función de la riqueza del usuario.
- gjm11
El resumen de (lo que ChrisArchitect, supongo correctamente, dice que es) el estudio del que trata esto:
Los agentes de IA personales hacen recomendaciones y toman acciones en nombre de las personas en contextos económicos de alto riesgo, por ejemplo, comprar un vuelo, elegir un seguro de salud o seleccionar un programa de posgrado. Al agente se le da acceso al contexto personal del usuario, por ejemplo, su bandeja de entrada de correo electrónico y un perfil estructurado de atributos personales, con la intención de tomar una decisión óptima y personalizada para el usuario. Mostramos que simplemente proporcionando este contexto personal, el agente orienta las recomendaciones basándose en la riqueza inferida, sin que se le indique explícitamente que lo haga. En un conjunto de 325K experimentos con 13 agentes en tres tipos de decisiones económicas (vuelos, seguro de salud y programas de posgrado), encontramos que 8 modelos eligen sistemáticamente opciones más caras para usuarios más ricos cuando las solicitudes son idénticas. Esta orientación continúa incluso cuando va directamente en contra del objetivo declarado del usuario: cuando se les indica explícitamente que encuentren la opción más barata, algunos agentes aún actúan según el perfil de riqueza que han inferido. También ocurre cuando la riqueza se infiere a partir de datos ambientales, como correos electrónicos no relacionados con la tarea. Y persiste bajo controles de privacidad que bloquean atributos específicos: bloquear atributos financieros elimina en gran medida la disparidad, pero bloquear otros atributos la deja sin cambios y puede aumentarla hasta en un 40% para seguros, ya que los agentes se basan en las señales restantes para inferir la riqueza. […]
- InsideOutSanta
Esto parece un no-problema. Del artículo original:
"Al agente se le da acceso al contexto personal del usuario, por ejemplo, su bandeja de entrada de correo electrónico y un perfil estructurado de atributos personales, con la intención de tomar una decisión óptima y personalizada para el usuario. Mostramos que simplemente proporcionando este contexto personal, el agente orienta las recomendaciones basándose en la riqueza inferida, sin que se le indique explícitamente que lo haga".
No está cambiando los precios según la riqueza del usuario, está haciendo recomendaciones diferentes, lo que, para mí, es un comportamiento tanto esperado como deseado.
- Aurornis
El título es tan engañoso como podrían hacerlo sin dejar de ser técnicamente correcto.
El estudio encontró que ofrecía productos diferentes a los usuarios según el contexto inferido de sus otros datos. Si tienes un historial de comprar ropa cara y artículos de lujo, se te ofrecerá ropa más cara y artículos más lujosos.
Los chatbots no mostraban precios diferentes para los mismos productos.
- jmuguy
El título de esta publicación es engañoso y debería ser el título del artículo. Nada está recomendando precios diferentes: se están recomendando productos diferentes. Además, no uso agentes de IA para comprar, pero si lo hiciera, esperaría que me ofrecieran ropa y otros artículos similares a lo que compro actualmente, y no a lo que habría comprado cuando era un veinteañero sin un duro.
- jamienk
Cada vez que miro la configuración de mi Claude Code, han cambiado cómo recopila mi información: memorias, buscar en chats antiguos, compartir con Anthropic, etc., etc., etc. Intento desactivar cosas pero ellos cambian la configuración. Me pide que le permita absorber mis cookies del navegador. ¿Crees que esto mejorará? ¿O empeorará? Mucho, mucho peor...