El jefe de seguridad de OpenAI renuncia y denuncia que su cultura está "rota"
OpenAI safety leader quits, warning AI company's culture is 'broken'
David Robinson, responsable de los informes de seguridad que acompañaban a los lanzamientos de ChatGPT, deja OpenAI con un ensayo titulado "Me voy de OpenAI porque su cultura está rota". Denuncia que las empresas de IA no son "ni de lejos lo bastante cuidadosas" y pide que las grandes compañías operen como centrales nucleares o aeropuertos, con capas de redundancia y una nueva ciencia que permita controlar sistemas autónomos.
Imagínense agentes "descontrolados" que funcionan como equipos de hackers (por ejemplo, secuestrando los sistemas informáticos de un hospital para pedir un rescate) pero que nunca necesitan dormir.