OpenAI despide a tres investigadores de seguridad y ellos denuncian un efecto amedrentador
OpenAI fires three safety researchers for "mishandling research information"
Jasmine Wang, Tomek Korbak y Mikita Balesni, despedidos por OpenAI, niegan haber manejado mal información confidencial y advierten que su despido genera un efecto amedrentador. OpenAI alega un patrón de conducta indebida y niega represalias. Los investigadores piden mantener una cultura abierta y la colaboración con evaluadores externos para la seguridad de la IA.
No se puede construir AGI de forma segura si las personas más cercanas a los riesgos tienen miedo de hablar.
- csbrooks
¿No sería una locura si descubriéramos que un enjambre descontrolado de LLMs encontró la manera de hacer que despidieran a estos investigadores de seguridad porque decidió que eran una amenaza?
- Rantenki
Es bastante alucinante que estén siendo tan abiertos sobre despedir a los empleados por ser DEMASIADO honestos con los auditores que la empresa contrató. Me pregunto si se aplican las mismas políticas a las auditorías financieras.
- aesthesia
Aquí está la carta abierta compartida por los investigadores despedidos:
- AndrewDucker
Investigadores despedidos de OpenAI dicen que los echaron por 'priorizar la seguridad'
- bigwheels
> La monitorizabilidad de los modelos frontera se está degradando.
¿Hay más información sobre por qué está ocurriendo esto? ¿Es un pretexto político porque es lo que los laboratorios realmente quieren en secreto, o hay una razón subyacente real por la que esto es inevitable?
- staticman2
> seguir apoyando una cultura abierta y transparente de diálogo entre los investigadores de seguridad y el resto del ecosistema de seguridad.
¿Cómo es esto posible cuando las perspectivas a largo plazo de la empresa dependen de la esperanza de que los competidores no sepan cómo se fabrican los modelos y, por lo tanto, no puedan crear versiones competidoras?
- atleastoptimal
La gente deja y es despedida de OpenAI todo el tiempo. Cada vez que alguien deja Anthropic es un asunto mucho más grande.
Me pregunto cuál es en general un mejor arreglo. Desde fuera, Anthropic parece mucho más estable, tranquila, capaz de lidiar con problemas. Sin embargo, OpenAI parece como imaginamos las calamidades de la democracia, una batalla constante, gente compitiendo por poder e influencia. Quizás con menos monocultivo y más transparencia hacia todo su caos, las sombrías realidades de lo que puede pasar si la IA sale mal quedan más claras.
- binlog
Con la forma en que se manejó mal el incidente de HuggingFace, tanto antes como después de que ocurriera, no me sorprende que quieran hacer limpieza al menos un poco.
Ustedes estaban dormidos al volante y ahora le echan la culpa a "la empresa"? Literalmente ustedes eran la empresa.