Google trainiert Gemini mit bezahlten Chats – ohne Opt-out
Tell HN: Gemini trains on chat history, even for subscribers (personal accounts)
Selbst zahlende Gemini-Nutzer mit persönlichem Google-AI-Abo müssen damit rechnen, dass ihre gespeicherten Chats zum Training der Modelle verwendet werden. Ein Opt-out gibt es nur, indem man den Verlauf deaktiviert oder temporäre Chats nutzt – dann verschwinden Sitzungen allerdings nach 72 Stunden. Laut Google prüfen zudem menschliche Reviewer eine Teilmenge der Chats, die bis zu drei Jahre aufbewahrt werden können. Der Autor zahlte für das Abo in der Annahme, damit nicht zum Produkt zu werden.
Ich habe das zu spät erfahren und dachte, ein bezahltes Abo bedeutet, dass man nicht selbst zum Produkt gemacht wird. Offenbar reicht Bezahlen nicht aus.
- fny
"Diese Chat-Transkripte können sogar von menschlichen Prüfern gelesen werden."
PSA: Das gilt für alle Frontier-Modell-Anbieter, selbst wenn du die Aktivitätsverfolgung deaktivierst. Sie alle überwachen ständig deine Interaktionen auf problematisches Verhalten.
[0]: https://www.nytimes.com/wirecutter/advice/ai-chat-privacy/
[1]: https://www.404media.co/inside-project-lily-the-humans-readi...
[2]: https://www.winknews.com/news/woman-arrested-after-ai-threat...
- richrichardsson
Was noch schlimmer ist: Wenn du ein Pixel-Telefon hast, ist Gemini völlig nutzlos, ohne diese Einstellung zu aktivieren.
Ich hatte sie ausgeschaltet:
"Hey Google, erinnere mich um 19 Uhr an <etwas>"
"OK, deine Erinnerung ist für 19 Uhr eingestellt"
Am nächsten Tag:
"Hey Google, warum hast du mich nicht um 19 Uhr erinnert?"
"Ich kann nichts mit deinem Telefon machen, es sei denn, du aktivierst den Chatverlauf."
WTF!
- therealmarv
Sie sollten Verlauf + kein Training anbieten (jedes andere große KI-Unternehmen bietet das an).
Und wo sie schon dabei sind, sollten sie auch erlauben, YouTube Premium Full normal zu kaufen, wenn man Google AI Pro jährlich hat, das YouTube Premium Lite enthält. Der Zusatzpreis ist in meinem Land über 100 % des Preises für den normalen Kauf von YouTube Premium Full und es gibt keine Möglichkeit, es normal zu kaufen :(
- devsda
> Bitte gib keine vertraulichen Informationen ein, von denen du nicht möchtest, dass ein Prüfer sie sieht oder Google
Wenn Gemini Zugriff auf App-Daten wie Galerie, Mail usw. hat, können diese dann auch einer menschlichen Überprüfung unterzogen werden? Ich stelle mir vor, dass das auch Teil des Kontexts sein wird.
Sie sind vage, wenn sie sagen 'nicht eingeben'. Betrifft das nur Prompts oder umfasst es auch andere Daten?
- viraptor
Ich vertraue keinem der Anbieter, aber gleichzeitig glaube ich, dass du aus den falschen Gründen zu viel in die Bedingungen hineininterpretierst. Ja, du musst dich abmelden. Aber:
> Eine Teilmenge der Chats wird von menschlichen Prüfern überprüft
Das ist heutzutage zu erwarten für Threads, die den Anbieter haftbar machen könnten. Schau dir nur den aktuellen Todesfall aufgrund einer schlechten GPT-Medikamentenempfehlung an.
> Von menschlichen Prüfern überprüfte Chats [...] werden nicht gelöscht, wenn du deine Aktivität löschst. Stattdessen werden sie bis zu drei Jahre lang aufbewahrt.
Sie werden aus rechtlichen Gründen aufbewahrt.
> Bitte gib keine vertraulichen Informationen ein...
Das dient dazu, dass sie sie nicht versehentlich für die Überprüfung aufbewahren, aber sie wollen auch nicht, dass du private Informationen teilst, die der Agent ohne ausdrückliche Genehmigung irgendwo postet.
Diese Punkte ergeben für sie Sinn, unabhängig davon, welche anderen AGB-Regeln gelten.
- giwook
Überrascht das wirklich jemanden?
Ich bin einfach davon ausgegangen, dass Google alles aufsaugt, was ich in seine KI eintippe, und erzähle ihr nichts zu Persönliches oder Sensibles.
Gibt es jemanden, der der Illusion unterliegt, dass unsere Daten nicht gesammelt werden, sei es von Google oder buchstäblich sogar von den scheinbar harmlosen Fernsehern in unseren Wohnungen, von denen festgestellt wurde, dass sie uns rund um die Uhr ausspionieren?
- 233mhz
IMHO solltest du dich so verhalten, als ob alles, was du tippst – nicht einmal sendest –, für immer gespeichert wird und für Training verwendet werden könnte, wann immer sie beschließen, ihre AGB rückwirkend zu ändern, egal wie viel Geld du bezahlst
- moooff
Dies und ähnliche andere Dinge haben mich dazu gezwungen, HermitUI zu erstellen. Für meine nicht-technischen Freunde, die Gamer sind oder leistungsfähige Hardware besitzen. Es ist eine einzelne HTML-Datei, die kostenlose Modelle im Browser ohne Installation ausführt. Ja, manche Leute können keine Kommandozeile geschweige denn Docker oder VMs nutzen und wollen nichts installieren, aber jeder hat einen Browser.
https://github.com/moooff/HermitUI
Sie können es mit einem einzigen Klick für ihre vertraulichen Sachen verwenden.
https://moooff.github.io/HermitUI/dist/hermit-ui-wllama.html...