OpenAI marca con agua el texto generado por IA para cumplir con la ley europea
Our approach to EU text provenance rules
OpenAI implementa textGrain, una marca de agua invisible en las palabras que genera el modelo, para que el texto sea identificable de forma legible por máquina según el Reglamento de IA de la UE. La técnica es opcional en la API desde hoy y se activará en ChatGPT y Codex en Europa en las próximas semanas. La detección es limitada: falla en textos cortos o editados, por lo que el detector solo estará disponible para investigadores aprobados.
Una marca de agua no mide la contribución humana. Puede indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto juicio, edición o creatividad humana intervino en él.
- socketcluster
Este enfoque me parece mal. En el caso del código, ahora es obvio que Claude está añadiendo marcas de agua a través de los comentarios porque son demasiado largos. No paro de pedirle a Claude que elimine y reduzca sus comentarios.
Además, no creo que sea útil porque la participación de la IA en el trabajo es un espectro, no un binario verdadero o falso. Si le pido a Claude que revise mi código y corrija erratas y lo limpie, y empieza a añadir comentarios con marcas de agua ocultas por todas partes donde hace el más mínimo ajuste, esencialmente se está apropiando de mi código. Su contribución puede ser trivial y superficial.
Cuando uso IA en mis propios proyectos, el código que genera básicamente me parece autocompletado; exactamente lo que habría escrito a mano. Así que no veo por qué hay que marcarlo como IA. Simplemente me ahorra tiempo. Es en gran medida mi propio trabajo.
- LudwigNagasena
Es obvio que métodos tan estúpidos no funcionan. Entonces, ¿qué viene después? Primero, tenemos que lidiar con la sustitución básica de palabras, que parece teóricamente factible. Luego tenemos que lidiar con codificaciones como el cifrado César, reemplazar espacios con espacios de ancho cero, Base64, etc. Tu cuenta será marcada y reportada por emitir texto ofuscado. ¿Y después de eso qué? Ups, emitiste demasiados comandos de vim en lugar de emitir texto directamente, tu cuenta es marcada y reportada a Europol. ¿Crees que puedes saltarte eso con Deepseek? No, será prohibido junto con la VPN.
- Aerroon
¿Podría esta técnica usarse teóricamente para rastrear a los propios usuarios? Sería bastante irónico que la UE obligara a las empresas tecnológicas a implementar un rastreo adicional, ¿no?
- mgax
Esto es una pérdida de tiempo enorme.
Si alguien quiere saltarse esto será bastante sencillo. Solo hay que cambiar las palabras. Si alguien quiere evitar el fingerprinting, lo hará.
¿No podemos centrarnos en construir en lugar de gastar materia gris en estas ridículas misiones secundarias?
- m-hodges
> A partir de hoy, los clientes de la API en todo el mundo podrán optar por la marca de agua de texto para modelos selectos. La marca de agua de texto permanecerá desactivada por defecto en la API.
> Durante las próximas semanas, añadiremos una marca de agua invisible a la salida de texto de ChatGPT y Codex elegible en la Unión Europea.