Google Gemini leitet persönliche Drive-Dateien und E-Mails an menschliche Prüfer weiter
Google Gemini routes personal Drive files and emails to human annotators
Google hat seine Zusage gebrochen, dass persönliche Inhalte aus Gmail, Docs und Drive nicht von menschlichen Prüfern gesehen werden. In einem Hilfe-Artikel und einem bearbeiteten Blogpost bestätigt der Konzern, dass verbundene Drive- und E-Mail-Daten in menschliche Prüfprozesse fließen. Tests zeigen: Die Ingestion erfolgt autonom im Hintergrund, ohne @-Tags, und probabilistisch – selbst bei beiläufigen Fragen werden teils komplette Dateien eingebunden.
Google hat diese Isolation aufgehoben: Vollständige Dateien werden während beiläufiger Gespräche probabilistisch eingebunden, und diese Sitzungen unterliegen der Prüfung durch menschliche Auftragnehmer.
- bri3d
Beachte, dass es sich hier speziell um Consumer Gemini mit Connected Apps handelt; Workspace Gemini (und Workspace Intelligence, das RAG-Ding für Enterprise/Workspace) behauptet weiterhin, nicht der menschlichen Überprüfung zu unterliegen:
https://knowledge.workspace.google.com/admin/generative-ai/g...
Im Grunde genommen: Wenn du Consumer Gemini nutzt und speziell die GMail-App autorisierst, dann wird es manchmal das GMail-Tool verwenden, um deine Mails aus GMail zu laden, und diese Daten (wie alle Daten in Consumer Gemini) könnten an die menschliche Annotations-Pipeline gehen.
Das Ganze erscheint mir aus Googles Sicht zutiefst dumm, obwohl sie noch nie gut im Produktmanagement waren – es gibt _viel_ zu viele Nuancen in dem, was vor sich geht, und selbst wenn sie technisch nicht betroffen sind, wird diese Art von Sache ihre zahlenden Enterprise-Kunden fast sicher misstrauisch machen.
- rustyhancock
Wirklich frustrierend, dass unsere Privatsphäre so weit erodiert ist, dass irgendjemand das für vernünftig halten würde.
Aber es erklärt einige Gespräche mit Gemini, bei denen ich mich frage, warum es über bestimmte Dinge spricht. Zum Beispiel, wenn ich es nach Konsultationsprozessen für Änderungen an Parks frage und dann eine Antwort bekomme, die unheimlich genau auf die E-Mail abgestimmt ist, die ich erhalten habe und die zu der Anfrage geführt hat.
Keine Erwähnung von „Ich habe gerade deine E-Mails gelesen“ usw.
- EMM_386
Es ist schlimmer als das.
> Google Photos-Daten werden verwendet, um deine Interessen, Beziehungen zu Personen auf deinen Fotos und wo du gewesen bist abzuleiten, unter anderem indem dein Gesicht mit entsprechenden Standortdaten und Zeitstempeln verknüpft wird. Diese Daten werden auch verwendet, um Dinge für dich zu erledigen, wie deine Informationen nachzuschlagen oder Artikel zu deiner Einkaufsliste hinzuzufügen, und um Google-Dienste zu verbessern, einschließlich des Trainings generativer KI.
Wie funktioniert das genau, wenn die Bilder nicht einmal echt sind und von KI generiert wurden? Wenn Google diese Fotos abgreift, um seine KI zu trainieren, wird die KI dann Assoziationen herstellen, wie sie auf dem Foto dargestellt sind?
Dass du wirklich mit dieser Person, an diesem Ort, in dieser Situation, an diesem Datum warst? Als eine Art Tatsache?
Kann jemand anderes dieses Bild erstellen und einfach in seine Bibliothek legen und dann wird es zu einer Tatsache in deinem Namen, wenn es aufgenommen, analysiert und trainiert wird?
Wohin führt das alles?
- hek2sch
Jedes Tool, das manuelle menschliche Prüfer oder Annotatoren hat, leidet darunter, wie ganz Gemini und notebooklm (jetzt Gemini notebook). Deine Daten haben eine hohe Wahrscheinlichkeit, von zufälligen Personen gelesen oder für das Training durchgesickert zu werden, weil sie sie möglicherweise markieren und dann verwenden, um das Modell zu „verbessern“.
- whatever1
Im Namen des KI-Wettrennens nehmen wir viele Abkürzungen in Kauf (Privatsphäre, Qualität, kommerzielle Rentabilität usw.). Wie jeder in der Softwarebranche weiß, werden die Schulden irgendwann fällig.
- jan_m_savage
Ich habe keine Daten auf Google Drives. :) Wollte ihnen von Anfang an nicht vertrauen.
- fierycatnet
Das ist einfach unverantwortlich. Wenn das so ist wie bei den alten Google-Suchbewertungen (Appen usw.), dann stellen sie jeden als Auftragnehmer ein. Ich möchte nicht, dass meine Daten von irgendeiner zufälligen Person überprüft werden.
- statsins
Privatsphäre ist in Zukunft irrelevant