GLM 5.3-flash: un año para arreglar la seguridad en todo el mundo

> El 22 de septiembre, Apple lanza el Mac Studio M5 con 256 GB de memoria unificada [..] probablemente será [..] suficiente para escribir este fragmento de código en 3 segundos.

El autor obviamente nunca ha ejecutado un LLM en una Mac. En 3 segundos, posiblemente habrá comenzado a pensar en quizás programar una fecha para contemplar el cronograma de planificación para procesar el segundo token de tu prompt.

Zzzzz, deberíamos haber arreglado la seguridad hace unas décadas. Pero la seguridad cuesta dinero y no es una característica llamativa para atraer nuevos clientes, o reduce tu margen si eres un negocio "serio" que produce cosas u ofrece algún servicio. O lo que sea que los tomadores de decisiones en Berlín estuvieran pensando cuando ignoraron la seguridad.

Sí, todavía veríamos ataques, pero veríamos menos si la seguridad no fuera opcional.

Quizás la locura de la IA ayude al forzar a más tomadores de decisiones a ver la seguridad como imperativa, y al darnos otra herramienta poderosa para nuestra caja de herramientas.

Nota: trabajo en la industria de la seguridad, nuestros clientes obviamente quieren mejorar su seguridad. Hemos visto un aumento en la conciencia, pero eso se debe principalmente a NIS2 y otros esfuerzos legislativos. Esos los obligan a hacer algo. La IA es una curiosidad para la charla trivial para muchos de ellos.

Aquí va una idea: como primer paso, simplifiquen todo y asegúrense de saber cómo funciona su stack y qué importa.

Como ejemplo: WordPress es algo horrible, pero el núcleo ha pasado por tanto que es sorprendentemente seguro. Luego vienen los plugins y los temas, y zas, la seguridad desaparece.

Necesitamos un nuevo KISS: manténlo simple, estúpido, seguro.

No creo que tengamos ni un año. La generación actual de LLM es ferocísima identificando vulnerabilidades.

> GLM 5.3-flash se lanzó la semana pasada, y eso significa que Project Glasswing y Daybreak se están quedando sin tiempo. Modelos baratos capaces de realizar ataques peligrosos están ahora disponibles para cualquiera, sin las salvaguardas normales para rechazar acciones maliciosas. Necesitamos arreglar las vulnerabilidades en toda la industria para que no nos pillen desprevenidos. … Podemos usar LLM de frontera que se mueven más rápido que un humano para encontrar y arreglar estos problemas en el tiempo que nos queda.

Creo que el autor lo tiene al revés. En la línea temporal en la que he estado viviendo, son los modelos de frontera los que han estado llevando a cabo ataques contra terceros, y los modelos chinos de código abierto los que defienden. Durante el incidente de Huggingface, a HF se le negó el uso de modelos de frontera para repeler la intrusión, pero afortunadamente pudo recurrir a su instancia autoalojada de GLM-5.2. Y cumplió.

Por supuesto que es importante reducir la superficie de impacto antes de que haya modelos más potentes disponibles, pero es preocupante que algunos parezcan asumir que la única manera de contrarrestarlos es usando más modelos de IA, que aunque son (aparentemente) buenos encontrando bugs, también son muy buenos introduciéndolos sin que se noten.

Creo que tenemos menos tiempo y la única limitación restante es el costo real de ejecutar tales campañas de hacking. No parece caro, pero no es gratis, y hay MUCHÍSIMAS cosas que escanear en busca de vulnerabilidades.

Los modelos ya están aquí, y uno puede alquilar un clúster de GPU para ejecutar tales cargas de trabajo a velocidad; no hay necesidad de jugar con máquinas locales lentas. Supondría que uno puede alojar el pensamiento en un proveedor de nube pública insospechado, enrutar el tráfico de red a algún botnet para evadir el bloqueo, y lo único que queda es tiempo y costo.

Me pregunto qué herramientas existen para empresas aburridas y legítimas que intenten hacer lo mismo con sus propios sistemas para encontrar las vulnerabilidades antes que los malos. La paradoja aquí es que no puedo ejecutar un modelo chino sin restricciones con las mismas herramientas que usan los hackers, pero creo que las empresas realmente TIENEN que hacerlo para tener una oportunidad de prepararse para la embestida.

1 año para el endurecimiento de la ciberseguridad, eso pensé también. El problema es que, incluso si lo logramos, en 1 año los modelos serán tan buenos en ingeniería social que podrán extraer cualquier información que quieran de todos modos. Me encantaría que me refutaran aquí, si alguien tiene argumentos basados en evidencia.

EDIT: por ingeniería social me refiero, por ejemplo: reconocer estructuras de empresas, recopilar y fusionar datos de personas de la dark web, y luego usarlos para sobornar/presionar/engañar a los usuarios.

Esto suena aproximadamente al nivel del Y2K en términos de complejidad de "tienes que arreglar tu mierda ya, donde sea que esté", excepto que cada día es Y2K para tu base de código.