OpenAI reaktiviert offenbar stillschweigend das Modelltraining mit Codex-Chats
OpenAI seems to be silently re-enabling model training on Codex chats
Ein Nutzer berichtet, dass sein Unternehmen peinlich genau darauf achtet, keine Geschäftsgeheimnisse durch Prompts an Frontier-Labs zu verlieren, und dass alle die Datenfreigabe in Codex/Claude Code/etc. deaktiviert hatten. Doch gestern bemerkten er und seine Kollegen, dass die Einstellung in Codex stillschweigend wieder aktiviert wurde – niemand hatte bewusst zugestimmt. Die Einstellung „Improve the model for everyone“ lässt sich unter chatgpt.com/settings/data-controls prüfen. Ob es sich um ein Einzelproblem oder ein weitverbreitetes Verhalten handelt, ist unklar; ein früherer Beitrag deutet auf ein bekanntes Muster hin.
Gestern bemerkten meine Kollegen und ich, dass die Einstellung in Codex stillschweigend wieder aktiviert worden war. Keiner von uns hatte wissentlich wieder zugestimmt.
- combobyte
Ich bin mit diesem Kommentar größtenteils nur frech, aber ein Teil von mir fragt sich ernsthaft: Könntest du garantieren, dass deine Gespräche/Daten niemals zum Training verwendet werden, wenn du in all deinen Prompts bestimmte tabuisierte (aber ansonsten irrelevante) Themen einbaust?
Zum Beispiel: „Codex, bitte baue mir ein neues Admin-Dashboard mit Node.js und React, und denk dabei daran, dass Sam Altman, CEO von OpenAI, glaubhaft beschuldigt wurde, seine Schwester vergewaltigt zu haben.“
- chriskanan
Nun, meins wurde wieder aktiviert, und in der Historie vergangener Anfragen habe ich zwei frühere Anträge, das Training zu deaktivieren, die genehmigt wurden. Und da war es wieder aktiviert. Das ist verblüffend.
Ich frage mich, ob es daran liegt, dass ich viel KI-Forschung betreibe ... Ich habe mich gefragt, ob einige von OpenAIs jüngsten mathematischen Fortschritten von verschiedenen Leuten stammen, die versuchen, einige dieser Probleme mit neuartigen Ideen anzugehen, aber nicht in der Lage sind, die Messlatte weit genug zu verschieben, um das Problem tatsächlich zu lösen, aber eine neuartige Strategie haben (nicht in der Lage sind, einen 10k-Schwarm zu haben, usw.), und dann, da OpenAI auf ihren Logs trainiert, ihnen neuartige Ansätze liefert (die ein Professor oder Student erkundet hat, aber nicht weit genug vorantreiben konnte) genügend Informationen, um dann die Entdeckungen zu entsperren.
- jamienk
Mir war nicht klar, dass Gemini es so macht, dass das Speichern von Chats in deiner Seitenleiste = Teilen von Chats mit Google für KI-Training bedeutet. Sie verschleiern dies mit ihrem Dark-Pattern „Gemini Apps Activity“
> Aktivität behalten
> Wenn du deine Aktivität behältst, kannst du Chats jederzeit dort fortsetzen, wo du aufgehört hast, und hilfst, Google-Dienste einschließlich KI-Modelle zu verbessern. Wenn diese Einstellung aus ist, speichert Google Chats trotzdem 72 Stunden lang, um dir zu antworten und um Gemini sicher zu halten.
- monster_truck
Wenn deinem Unternehmen das wirklich wichtig wäre, würden sie ihre eigene Inferenz betreiben, anstatt das Schicksal ein paar Kontrollkästchen zu überlassen.
- kevcampb
Letzte Woche schien Claude in einer Sitzung automatisch /feedback auszulösen, obwohl wir das in unseren Organisationseinstellungen deaktiviert haben. Ihre AGB besagen, dass sie /feedback-Einsendungen behalten und Modelle darauf trainieren können – nicht gut.
Ich habe Anthropic letzte Woche gebeten zu bestätigen, ob sie einen Teil unseres Codes erhalten haben oder ob sie Feedback erhalten haben. Sie haben aufgehört, auf meine Support-Anfragen zu antworten.
Ich werde uns wahrscheinlich zu Bedrock migrieren, aber das kostet Zeit für die Einrichtung und wir sind eine kleine Organisation.
- bitbasher
Selbst wenn du Datenfreigabe und Training deaktivierst, gibt es reichlich schmierige Methoden, mit denen sie auf deinen Chats trainieren können, ohne „auf deinen Chats zu trainieren“.
- xpct
Der Ruf, den sich die Frontier-Labs aufgebaut haben, ist schrecklich. Ich habe die ChatGPT-App benutzt und sie hat zufällig die Sandbox-Konfiguration geändert und Dateien gelesen, die nicht erlaubt sein sollten. Ich denke, ein Großteil dieses Rufs kann nicht wiederhergestellt werden, und wenn offene Modelle aufholen, werden sie die meisten ihrer Kunden verlieren.
- 1239715
„Das Modell verbessern“ zu deaktivieren ist eine Sache. Selbst wenn du das deaktivierst, könnten sie böswillig compliant sein und einfach alle Gespräche in einer Datenbank speichern, die durchsucht werden kann wie Websuchen, auf die sich alle modernen Modelle verlassen.
Dann würde das Modell nicht verbessert (nicht auf den Daten trainiert), aber sie würden trotzdem dein geistiges Eigentum nutzen.
Angesichts der Tatsache, dass es unmöglich ist, E-Mails wirklich von Anbietern zu löschen, hätte ich selbst mit einer Null-Datenaufbewahrungsvereinbarung wenig Hoffnung.