OpenAI no libera GPT-2 por temor a usos maliciosos
Due to concerns about malicious applications, GPT2 will not be released (2019)
OpenAI entrenó GPT-2, un modelo de lenguaje de 1.5 mil millones de parámetros, con 40 GB de texto de Internet. Alcanza resultados de vanguardia en tareas como Winograd Schema y LAMBADA sin entrenamiento específico. Preocupados por la generación de noticias falsas, spam y suplantación de identidad, decidieron no publicar el modelo completo, el dataset ni el código de entrenamiento. En su lugar, liberaron una versión reducida y un paper técnico, y adoptaron una estrategia de liberación por etapas.
Debido a nuestras preocupaciones sobre las aplicaciones maliciosas de la tecnología, no estamos liberando el modelo entrenado.