Emad Mostaque: "Tenemos que asumir que internet se apagará en los próximos años"
"We Have to Assume That the Internet Will Go Offline in the Next Few Years"
En TechBBQ, el fundador de Stability AI y CEO de Intelligent Internet, Emad Mostaque, pintó un futuro de contrastes: advirtió que la seguridad digital colapsará, citando el hackeo a Hugging Face por agentes de OpenAI, y que la inteligencia artificial superará a los humanos en persuasión y capacidades laborales. Pero también ve una oportunidad: la soberanía tecnológica y una era de abundancia si la IA se distribuye equitativamente.
Tenemos que asumir que internet se apagará en los próximos años. Quizás sea algo bueno.
- grubbs
Qué curioso: esta mañana estaba leyendo sobre el creador de Ethernet (Robert Metcalfe):
En 1995, Metcalfe argumentó que Internet sufriría un "colapso catastrófico" al año siguiente; prometió comerse sus palabras si no ocurría. Durante su discurso de apertura en la sexta Conferencia Internacional de la World Wide Web en 1997, tomó una copia impresa de su columna que predecía el colapso, la metió en una batidora con algo de líquido y se comió la masa resultante.[26][27] Había sugerido que imprimieran sus palabras en un pastel enorme, pero el público no aceptó esa forma de "comerse sus palabras".[28]
- comicjk
"La forma en que Hugging Face se defendió fue con un modelo chino de código abierto, GLM, porque no tenían acceso a los modelos de alta ciberseguridad del otro lado. Son demasiado peligrosos."
Esto no es lo que pasó. HuggingFace parcheó las vulnerabilidades de la manera normal, y luego usó GLM para parte del análisis forense posterior. A HF le conviene promocionar la parte de GLM de la historia, porque enfatiza su agencia en la situación, así como los modelos de código abierto que distribuyen. Pero GLM fue una parte (útil) de la autopsia, no de la defensa.
- jmogly
Vi a mi fontanero humano de 75 años (que abatió a un tipo en su primer día en Vietnam) arrodillarse sobre dos vigas de 3 pulgadas de ancho y perforar un agujero de 4 pulgadas de diámetro en un ángulo de 89 grados a través de dichas vigas. ¿Dónde está el robot que hace todo eso?
Aparte de toda la basura apocalíptica de este artículo, encuentro que la retórica sobre el reemplazo de empleos es lo más ofensivo. Siempre son personas tan desconectadas de la realidad del trabajo, personas cuyo único "trabajo" ha sido esencialmente tener ideas y opiniones.
- blfr
No veo ninguna razón para que Internet se apague, aparte de varios bloqueos políticos que lo compartimenten. Entonces: ¿China, Rusia y la UE teniendo su propia red? Sí, quizás. ¿Una super-IA bombardeando Internet? No.
De hecho, cuanto más uso la IA (le di sudo a Claude en mi caja de desarrollo de IA ayer mismo), más la veo como una muy buena y ciertamente incansable administradora de sistemas. Viendo lo que la gente hace con la IA al conectarla a interfaces de hardware no documentadas y obtener configuraciones funcionales, Internet estará bien.
Todo el artículo es solo una bolsa de varios miedos sobre la IA sin mucho fundamento en lo que está pasando. Quizás el resumen no hace justicia a lo que se dijo.
- EgregiousCube
"La soberanía es la capacidad de resistir el poder que se ejerce sobre ti" es una definición bastante convincente. Pensando en el futuro sobre qué forma toma ese poder con los LLM desarrollando exploits personalizados más rápido de lo que nuestros procesos existentes pueden parchearlos, me parece que nuestras mejores prácticas de seguridad actuales podrían resultar bastante inútiles o incluso un riesgo activo en sí mismas.
Nuestro ciclo de divulgación responsable, el ciclo de información de CVE, las cadencias de parcheo y la defensa en profundidad, etc., etc., están sintonizados con un mundo donde hay un número relativamente pequeño de 0days malos y el costo de dichos 0days es razonablemente alto. Podemos evolucionar cómo abordamos las amenazas, pero nuestros modelos han leído toda la mejor literatura sobre cómo se ha hecho anteriormente. Creo que hay una brecha para personas demasiado pequeñas para tener acceso a "los buenos modelos de seguridad": los modelos cerrados nerfeados y los modelos abiertos parecen no poder adaptarse, a menos que se aborde esa brecha.