KI-Chats leaken Gespräche an Werbetracker
AI companies leak data to advertisers [pdf]
Eine systematische Analyse von neun großen Conversational-AI-Diensten zeigt: Alle binden mindestens einen Third-Party-Tracker ein, insgesamt 44 Organisationen. Sechs von neun Web- und drei von acht Android-Clients geben Gesprächs-URLs, Titel, Prompts und sogar Screenshots an Dritte weiter – oft zusammen mit persistenten Nutzer-IDs. Einige Anbieter stellen ganze Unterhaltungen über öffentliche Permalinks ohne Zugriffskontrolle bereit. Die Autoren prüfen die Praktiken zudem im Rahmen von DSGVO und ePrivacy-Richtlinie.
Unsere Ergebnisse stellen die Wahrnehmung von Conversational-AI-Diensten als vertrauliche Interaktionen zwischen Nutzern und KI-Anbietern infrage.
- delis-thumbs-7e
In einer alten Simpsons-Folge darf Lisa den Lehrerzimmer besuchen, wo sich das gesamte Personal über die Kinder lustig macht. Hausmeister Willie pantomimt Milhouse: „Oh, ich bin Milhouse, ich erzähle Willie all meine Geheimnisse, weil ich keine Freunde habe!“ und die Lehrer lachen. Später passiert Milhouse etwas Peinliches und er rennt sofort weinend weg: „Ich muss das Willie erzählen!“.
Wir sind jetzt alle Milhouse geworden.
- Coeur
„Mehrere Anbieter geben sensible, aus Gesprächen abgeleitete Artefakte – darunter Titel, Prompts und Screenshots – an Dritte weiter, oft zusammen mit persistenten Nutzerkennungen, die eine Zuordnung zu Nutzern ermöglichen. Wir stellen außerdem fest, dass einige Anbieter öffentlich Permalinks zu Gesprächen ohne Zugriffskontrollen bereitstellen, sodass Tracker das gesamte Gespräch lesen können.“
Überhaupt nicht gut.
- drywater2
Nein, sie „leaken“ keine Daten, Daten werden verkauft. Daten zu leaken erfordert einen Fehler. Das hier ist Absicht.
- pbasista
Am Rande:
Mir ist kürzlich aufgefallen, dass z. B. ChatGPT bei Nutzung über einen Webbrowser regelmäßig unfertige Prompts an ihre Server sendet, und zwar an den `conversation/prepare`-Endpunkt, ohne darauf zu warten, dass der Nutzer sie tatsächlich absendet.
Diese teilweisen Prompt-Daten könnten möglicherweise genutzt werden, um eine Art Cache „vorzuwärmen“.
Aber sie könnten auch genutzt werden, um die Schreibgeschwindigkeit des Nutzers, seinen Fehlerkorrekturstil und die Entwicklung seiner Stichpunktideen während ihrer Formulierung zu einem Prompt zu verfolgen. Ich würde annehmen, dass solche Daten auch an Werbetreibende verkauft werden könnten.
- kdaniel_03
Es ist die gleiche Lektion wie der Navier-Stokes-Credit-Streit Anfang dieses Monats. Buckmaster und Alpoge hatten ihre unveröffentlichten Entwürfe in privaten Codex-Sitzungen, und OpenAI sagt, niemand habe sie gesehen, gibt aber zu, dass de-identifizierte Produktdaten seine Modelle verbessert haben könnten. Dort sind es Trainingsdaten, hier sind es Werbetracker. So oder so bleiben Prompts und Ergebnisse, die privat bleiben sollten, nicht privat.
Deshalb muss Open Source gewinnen, auch wenn offene Modelle nicht perfekt sind. Man kann die App überspringen und das Modell selbst betreiben.
- segmondy
Vor diesem neuen KI-Zeitalter wurden deine Daten berechnet und was über dich abgeleitet wurde, war „oberflächlich“, aber heute ist das anders. Die Art von Profil und Dingen, die über dich bekannt sein können, ist beängstigend, besonders wenn du ständig mit Cloud-KI interagierst. Meiner Meinung nach ist das größte Risiko bei der Nutzung von Cloud-KI der Verlust der Privatsphäre und der Verlust der Freiheit. Mit KI und ihren Fähigkeiten können mehr Kontrollen über Menschen verhängt werden, und je mehr du von dir preisgibst, desto mehr wirst du verlieren.
Zum Beispiel haben wir jetzt selbstfahrende Autos, wir haben überall Kameras. Basierend auf deinem Chat mit einer Cloud-KI kann automatisch ein automatisches Überwachungsereignis ausgelöst werden, das dich in der realen Welt mit der Flotte von Kameras, Autos, GPUs und Mobilfunksignalen verfolgt und trackt. Dein Tracking durch KI ist in die reale Welt übergegangen, und irgendwann wird ein selbstfahrendes Auto dich gegen deinen Willen zur „Verarbeitung“ bringen – nicht einmal wegen dem, was du in einem öffentlichen Forum gepostet hast, sondern wegen deiner privaten Neckereien und Chats mit irgendeiner Cloud-KI.
Also definitiv lokale KI mit einbeziehen und persönliche Dinge und Gedanken nur lokal halten.
- j4k0bfr
Das überrascht mich ein wenig, wenn man bedenkt, wie sehr KI-Firmen Daten horten. Besonders da einige dieser Werbefirmen direkte Konkurrenten sind!
Meine beste Vermutung ist, dass diese Werbemechanismen etwas überstürzt sind und/oder dass die Gewinnforderungen der Investoren gegen das Eigeninteresse der Unternehmen kämpfen.
Edit: Ich schätze, einige Daten müssen immer geleakt werden, damit KI-Chat-Werbung am effektivsten ist. Aber ich stelle mir vor, dass KI-Firmen die gezielte Werbung lieber selbst ausliefern würden, anstatt Konkurrenten das für sie tun zu lassen. Es wäre beängstigend, wenn KI-Firmen auch Werbefirmen würden (statt nur Werbung zu hosten).
- skybrian
Falls es jemandem hilft, ich habe ChatGPT gebeten, aufzuschlüsseln, was sie je App gefunden haben: