Sam Altman admite que ya no basta con parchear todos los bugs
Sam Altman: 'I No Longer Think We're Gonna Be Able to Just Patch All the Bugs'
En una charla en la Stanford Graduate School of Business, el CEO de OpenAI afirmó que la crisis de ciberseguridad es peor de lo que cualquiera imagina y que parchear los fallos ya no es una solución viable, porque los modelos siguen avanzando mientras las organizaciones se quedan atrás. Su propuesta: reemplazar el modelo de defensa por un escudo construido con la misma IA. El artículo señala la ironía de que OpenAI ya había sufrido una fuga de sus propios agentes.
«Esta ciberseguridad… no se me ocurre una palabra lo bastante dramática para describirla, pero el problema que se nos viene encima sigue siendo algo que no hemos tomado en serio, ni los líderes de organizaciones, ni los países, ni los individuos».
- cmiles8
Lo que realmente quiere decir es:
Por favor, reguladnos, ¡ya! Si no conseguimos la captura regulatoria cuanto antes, estoy acabado. Quiero decir, mira tío, acabo de tener que ir a mendigar decenas de miles de millones más de dinero para poder mantener las luces encendidas y mi IPO pinta cada día más y más desastrosa. Por favor, te lo suplico. ¿Qué más necesito decir para convencerte?
- pmlnr
"Para detener nuestra IA todopoderosa que se volverá descontrolada, necesitas comprar nuestra IA todopoderosa"
Esta es la definición de manual de extorsión mafiosa (racketeering).
- preommr
Ni siquiera la singularidad puede arreglar php.
Pero dejando las bromas a un lado, estamos entrando en una nueva era donde hay una paradoja de gente pro-IA diciendo que la IA es realmente buena, pero no tan buena... cuando en realidad sí es así de buena.
Probablemente tendremos monitores de IA como servicio, pero el grueso de la seguridad debería venir de que la IA haga un mejor trabajo revisando bugs complicados, ya que los humanos se niegan a esforzarse en escribir especificaciones más formales.
- bix6
> OpenAI aparentemente se está metiendo en el modelo de comerciante de armas de vender a ambos bandos de un conflicto.
¡El negocio está que arde!
- somat
El eterno ciclo de descubrir que la ingeniería es difícil continúa.
"En cuanto empezamos a programar, descubrimos con sorpresa que no era tan fácil hacer los programas bien como habíamos pensado. La depuración tuvo que ser descubierta. Puedo recordar el instante exacto en que me di cuenta de que una gran parte de mi vida a partir de entonces iba a dedicarse a encontrar errores en mis propios programas."
Maurice Wilkes 1949
- oxag3n
El mensaje principal de Altman está más cerca del final: "Creo que vamos a tener que cambiar por completo el modelo de defensa para usar la misma tecnología para un nuevo tipo de escudo de defensa", dijo.
Lo que significa que no pudieron monetizar el descubrimiento de bugs de seguridad y lo están emparejando con la IA "antivirus", o extorsión mafiosa en otras palabras.
- mikewarot
Opinión controvertida: es un problema de diseño de sistemas operativos, no un problema de lenguaje. Es lo que obtienes por usar sistemas operativos construidos sobre autoridad ambiental, en lugar de denegación por defecto y capacidades, durante 30 años más allá del punto en que era obvio que no servían para su propósito en la era de internet.
- altcognito
"¡Demasiado peligroso para no regularlo!" ¡Nadie debería tener computación de propósito general!