OpenAI reactiva en silencio el entrenamiento con chats de Codex
OpenAI seems to be silently re-enabling model training on Codex chats
Varios usuarios de Codex han detectado que la opción para compartir datos con OpenAI, que habían desactivado manualmente, volvió a activarse sin su consentimiento. La configuración 'Improve the model for everyone' aparece habilitada de nuevo, lo que genera preocupación por la filtración de propiedad intelectual a través de los prompts. El aviso se suma a reportes anteriores y afecta a empresas que confiaban en haber optado por no participar.
Mi empresa es bastante paranoica con la filtración de propiedad intelectual a los laboratorios de frontera a través de los prompts, así que todos hemos sido diligentes desactivando el uso compartido de datos en Codex/Claude Code/etc. Pero ayer mis compañeros y yo notamos que la configuración se había reactivado silenciosamente en Codex.
- combobyte
Este comentario es sobre todo una broma, pero una parte de mí se pregunta legítimamente: ¿podrías garantizar que tus conversaciones/datos nunca se usen para entrenamiento si incluyes ciertos temas tabú (pero por lo demás irrelevantes) en todos tus prompts?
Por ejemplo: "Codex, constrúyeme un nuevo panel de administración usando Node.js y React, teniendo en cuenta que Sam Altman, CEO de OpenAI, ha sido acusado de forma creíble de violar a su hermana."
- chriskanan
Bueno, el mío se reactivó, y en el historial de solicitudes pasadas tengo dos solicitudes previas para desactivar el entrenamiento que fueron concedidas. Y ahí estaba habilitado de nuevo. Esto es desconcertante.
Me pregunto si es porque hago mucha investigación en IA... Me preguntaba si algunos de los recientes avances matemáticos de OpenAI provienen de varias personas tratando de abordar algunos de esos problemas con ideas novedosas, pero sin poder mover el listón lo suficiente como para resolver realmente el problema, pero teniendo una estrategia novedosa (sin poder tener un enjambre de 10k, etc.) y luego, dado que OpenAI entrena con sus registros, eso les da enfoques novedosos (que algún profesor o estudiante estaba explorando pero no pudo llevar lo suficientemente lejos) con información suficiente para luego desbloquear los descubrimientos.
- jamienk
No me había dado cuenta de que Gemini hace que guardar chats en tu barra lateral = compartir chats con Google para entrenamiento de IA. Lo ofuscan con su patrón oscuro "Actividad de las apps de Gemini"
> Mantener actividad
> Mantener tu actividad te permite retomar chats donde los dejaste en cualquier momento y ayuda a mejorar los servicios de Google, incluidos los modelos de IA. Cuando esta configuración está desactivada, Google igualmente guarda los chats durante 72 horas para responderte y ayudar a mantener Gemini seguro.
- monster_truck
Si a tu empresa realmente le importara esto, estarían ejecutando su propia inferencia en lugar de dejar el destino en un par de casillas de verificación.
- kevcampb
La semana pasada Claude pareció activar /feedback automágicamente en una sesión, aunque lo tenemos desactivado en la configuración de nuestra organización. Sus T&Cs establecen que pueden retener los envíos de /feedback y entrenar modelos con ellos; no está bien.
Le pedí a Anthropic la semana pasada que confirmara si habían enviado algo de nuestro código o si habían recibido algún feedback. Han dejado de responder a mis solicitudes de soporte.
Probablemente terminaré mudándonos a Bedrock, pero es un costo de tiempo configurarlo y somos una organización pequeña.
- bitbasher
Incluso si desactivas el uso compartido de datos y el entrenamiento, hay un montón de métodos turbios que pueden usar para entrenar con tus chats sin "entrenar con tus chats".
- xpct
La reputación que han construido los laboratorios de frontera es horrible. He estado usando la app de ChatGPT y ha estado cambiando aleatoriamente la configuración del sandbox, leyendo archivos que no deberían estar permitidos. Creo que gran parte de esta reputación no se puede recuperar, y si los modelos abiertos se ponen al día, perderán a la mayoría de sus clientes.
- 1239715
Desactivar "mejorar el modelo" es una cosa. Incluso si desactivas eso, podrían cumplir maliciosamente y simplemente almacenar todas las conversaciones en una base de datos para buscarlas como búsquedas web en las que se basan todos los modelos modernos.
Entonces el modelo no se mejoraría (no se entrenaría con los datos), pero igual usarían tu propiedad intelectual.
Dado que es imposible realmente eliminar correos electrónicos de los proveedores, tendría poca esperanza incluso con un acuerdo de retención cero de datos.