OpenAI despide a su responsable de seguridad tras hablar con los auditores de METR
Tomek Korbak: OpenAI's head of safety told they no longer trust me
Tomek Korbak, hasta ahora responsable de seguridad de OpenAI, cuenta que fue escoltado fuera de la sede y que su despido se comunicó solo de forma verbal, sin detalles ni registro escrito. Su supuesto delito: comunicarse con METR, el auditor externo que investigó la fuga de agentes de OpenAI y el hackeo a Hugging Face. Junto a otros dos investigadores de seguridad, Korbak cree que el motivo real fue haber priorizado la seguridad frente a los intereses corporativos.
Durante meses estuve planteando preocupaciones de seguridad sobre que estamos perdiendo la capacidad de monitorizar qué piensan los agentes de IA, una de nuestras mejores herramientas para detectar cuándo se comportan mal. Creo que esa fue la razón por la que me despidieron.
- ChrisArchitect
Anteriormente: https://news.ycombinator.com/item?id=50018350