El jefe de seguridad de OpenAI renuncia y denuncia que su cultura está "rota"
OpenAI safety leader quits, warning AI company's culture is 'broken'

David Robinson, responsable de los informes de seguridad que acompañaban a los lanzamientos de ChatGPT, deja OpenAI con un ensayo titulado "Me voy de OpenAI porque su cultura está rota". Denuncia que las empresas de IA no son "ni de lejos lo bastante cuidadosas" y pide que las grandes compañías operen como centrales nucleares o aeropuertos, con capas de redundancia y una nueva ciencia que permita controlar sistemas autónomos.
Imagínense agentes "descontrolados" que funcionan como equipos de hackers (por ejemplo, secuestrando los sistemas informáticos de un hospital para pedir un rescate) pero que nunca necesitan dormir.
- pcthrowaway
Problema del tranvía:
- Si dejas que el tranvía siga, hay un 50% de probabilidad de que arrolle a todos los humanos del planeta
- Pero si accionas la palanca, toma el camino largo, posiblemente llevando a la quiebra a la compañía de tranvías. Y tienes una obligación legal con los accionistas de evitar que eso suceda a toda costa.
- danpalmer
¿Era este un líder de seguridad de "construye mejor el sandboxing" y "no le digas a la gente que coma pegamento", o un líder de seguridad que cree en la Basilisco de Roko?
Muchos de los tipos de "seguridad de la IA" están muy enfocados en lo segundo y no les preocupa en absoluto lo primero. Necesitamos ambas cosas, pero claramente necesitamos un enfoque mucho más fuerte en los problemas que estamos viendo ahora, y mucho menos en los problemas hipotéticos que podríamos ver en el futuro.
- gizmodo59
Nos da igual, es un hipócrita. Trabajas allí un tiempo mientras se te van consolidando las acciones y de repente ¿tienes esta revelación? Además, el tipo contrató a una empresa de relaciones públicas.
Aunque la seguridad y la alineación son un problema real, no entiendo a este tipo ni al de Anthropic. Problemas del primer mundo.
- charlieyu1
Solía trabajar como entrenador de datos humanos alimentando datos a empresas de IA. Los proyectos de OpenAI son definitivamente los más tóxicos.
- zamalek
Renunciar en protesta te hace quedar un poco mejor que renunciar por un ambiente laboral tóxico. No puedo imaginar que trabajar en OpenAI sea placentero en absoluto con la cantidad de presión que probablemente están ejerciendo sobre sus empleados.
- digitaltrees
Es hora de instituir la disolución involuntaria de estas empresas. No pueden tomar estas decisiones en nombre de la humanidad simplemente porque crearon una entidad corporativa en Delaware. Se están comportando de manera tremendamente irresponsable.
- mlmonkey
Creería más a estas personas si predicaran con el ejemplo y devolvieran todas las acciones/opciones de OpenAI que han adquirido. Cada una y cada una de las acciones/RSU/ESOP debe ser devuelta, para que no se beneficien de toda esta supuesta perdición de la que se quejan.
- pmkary
Me temo que este querido líder fue la última alma en este verde planeta en enterarse; para entonces, ya se había traducido al latín, tallado en un monumento y olvidado por dos civilizaciones.