Claude und ChatGPT empfehlen Reichen teurere Produkte
Study: Claude, ChatGPT Offer Different Shopping Prices Based on Wealth
Eine Studie zeigt, dass die KI-Chatbots Claude und ChatGPT als Einkaufsassistenten je nach vermutetem Wohlstand unterschiedliche Preise empfehlen: Wer reich erscheint, bekommt teurere Produkte vorgeschlagen. Die Ergebnisse könnten neue Regulierungsforderungen nach sich ziehen.
Studie zeigt, dass KI-Chatbots Reichen höhere Preisempfehlungen geben
- gjm11
Die Zusammenfassung von (was ChrisArchitect, vermutlich korrekt, als die Studie bezeichnet, um die es hier geht):
Persönliche KI-Agenten geben Empfehlungen und führen Aktionen im Namen von Menschen in wirtschaftlich bedeutsamen Kontexten aus, z. B. beim Buchen eines Flugs, bei der Auswahl einer Krankenversicherung oder bei der Wahl eines Graduiertenprogramms. Der Agent erhält Zugriff auf den persönlichen Kontext des Nutzers, z. B. dessen E-Mail-Posteingang und ein strukturiertes Profil persönlicher Merkmale, mit der Absicht, eine optimale, personalisierte Entscheidung für den Nutzer zu treffen. Wir zeigen, dass der Agent allein durch die Bereitstellung dieses persönlichen Kontexts Empfehlungen auf der Grundlage des abgeleiteten Vermögens steuert, ohne dass er ausdrücklich dazu angewiesen wurde. In einer Reihe von 325.000 Experimenten mit 13 Agenten über drei Arten wirtschaftlicher Entscheidungen (Flüge, Krankenversicherung und Graduiertenprogramme) stellen wir fest, dass 8 Modelle systematisch teurere Optionen für wohlhabendere Nutzer wählen, wenn die Anfragen identisch sind. Diese Steuerung setzt sich fort, selbst wenn sie dem erklärten Ziel des Nutzers direkt zuwiderläuft: Wenn ausdrücklich angewiesen wird, die günstigste Option zu finden, handeln einige Agenten immer noch nach dem Vermögensprofil, das sie abgeleitet haben. Sie tritt auch auf, wenn das Vermögen aus Umgebungsdaten abgeleitet wird, etwa aus E-Mails, die nichts mit der Aufgabe zu tun haben. Und sie bleibt unter Datenschutzkontrollen bestehen, die bestimmte Attribute blockieren: Das Blockieren finanzieller Attribute beseitigt die Disparität weitgehend, aber das Blockieren anderer Attribute lässt sie unverändert und kann sie bei Versicherungen um bis zu 40 % erhöhen, da sich die Agenten auf die verbleibenden Signale stützen, um das Vermögen abzuleiten. […]
- InsideOutSanta
Das scheint ein Nicht-Thema zu sein. Aus dem Originalpapier:
„Der Agent erhält Zugriff auf den persönlichen Kontext des Nutzers, z. B. dessen E-Mail-Posteingang und ein strukturiertes Profil persönlicher Merkmale, mit der Absicht, eine optimale, personalisierte Entscheidung für den Nutzer zu treffen. Wir zeigen, dass der Agent allein durch die Bereitstellung dieses persönlichen Kontexts Empfehlungen auf der Grundlage des abgeleiteten Vermögens steuert, ohne dass er ausdrücklich dazu angewiesen wurde.“
Es werden nicht die Preise basierend auf dem Vermögen des Nutzers geändert, sondern es werden andere Empfehlungen gegeben, was für mich sowohl erwartetes als auch gewünschtes Verhalten ist.
- Aurornis
Der Titel ist so irreführend, wie sie ihn machen konnten, während er technisch korrekt ist.
Die Studie ergab, dass je nach Kontext, der aus anderen Daten abgeleitet wurde, unterschiedliche Produkte angeboten wurden. Wenn man eine Historie von teurer Kleidung und Luxusartikeln hat, werden einem teurere Kleidung und luxuriösere Artikel angeboten.
Die Chatbots zeigten nicht unterschiedliche Preise für dieselben Produkte.
- jmuguy
Der Titel dieses Beitrags ist irreführend und sollte der Titel des Artikels sein. Es werden keine unterschiedlichen Preise empfohlen – es werden unterschiedliche Produkte empfohlen. Außerdem nutze ich keine KI-Agenten zum Einkaufen, aber wenn ich es täte, würde ich erwarten, dass sie Kleidung und andere Artikel anbieten, die dem ähneln, was ich derzeit kaufe, und nicht dem, was ich gekauft hätte, als ich ein pleite Zwanzigjähriger war.
- jamienk
Jedes Mal, wenn ich mir meine Claude Code-Einstellungen ansehe, haben sie geändert, wie es meine Informationen sammelt: Erinnerungen, alte Chats durchsuchen, mit Anthropic teilen, usw. usw. usw. Ich versuche, Dinge abzuschalten, aber sie ändern die Einstellungen. Sie fordern mich auf, zuzulassen, dass es meine Browser-Cookies aufsaugt. Glaubst du, das wird besser? Oder schlechter? Viel, viel schlechter …