Todos deberían frenar el desarrollo de la IA excepto yo

Tengo que preguntarme si algunos de nosotros simplemente estamos mucho más curtidos con los vendedores y, por lo tanto, también con la propaganda de la "Seguridad de la IA". Todavía no he tenido una discusión lógica con alguien que piense que la gente de la "Seguridad de la IA" debería estar al mando, y creo que simplemente no se dan cuenta de que lo que la mayoría de ellos realmente quiere es ser quien sostiene las llaves del poder.

Predicción: en unos años, nos reiremos de esta histeria y la llamaremos pánico moral.

El obligatorio "¿qué es Lygma?". Pero hablando en serio, este catastrofismo sobre la IA ha alcanzado un punto de inflexión cómico. Hace unos años, GPT-2 era demasiado peligroso para publicarlo, luego algún bicho raro de Google dijo que Gemini tenía alma o algo así, después lo de nivel Mythos se volvió un meme, luego un chaval lo dejó y fue a FOX News a hablar de Skynet, y ahora Amodei y Altman están otra vez en el tren de "tenemos que frenar"; esto después de que ya hayamos pasado por ese camino y Claude fuera prohibido en el extranjero; espera, ¿en realidad esa prohibición sigue en pie? Honestamente, a estas alturas a quién le importa una mierda.

Todo es teatro. OpenAI y Anthropic lo más probable es que quiebren —o, más realista, que las vendan por partes—, y absolutamente deberían hacerlo por robar mi propiedad intelectual (libros que escribí, entradas de blog, etc.) y la de muchos otros. Estamos llegando a un punto en el que los modelos se están convirtiendo en mercancía y estoy 100% convencido de que el siguiente movimiento será una especie de "capa de software" sobre estos sistemas de razonamiento, que será la verdadera revolución. El modelo en sí ya no será tan interesante; es todo el trabajo que lo rodea lo que lo hace valioso (más o menos como son las computadoras y los teléfonos hoy; los chips son asombrosos, pero el software es realmente la magia).

La única parte que da miedo es que los boomers del Congreso quizá de verdad les crean a estos nerds, pero viendo cómo los índices de aprobación de las grandes tecnológicas rozan los niveles de las grandes tabacaleras en los 90, no creo que tengamos mucho de qué preocuparnos.

Es extraño que se esté soñando/esperando que se logre algún tipo de alineación. O que esa sea la intención. Esto es justo como la carrera nuclear que empezó en los 40 y 50 ¡y la prevención sigue en curso! No se trata de seguridad y peligro, y no estoy diciendo si un acceso nuclear más abierto habría sido más seguro (no lo creo). Se trata de ser los únicos pocos selectos en poseer y controlar esta frontera tecnológica posiblemente —muy pronto— inimaginablemente peligrosa e insegura. Unas pocas empresas de un solo país, o unas pocas empresas de muy pocos países. Manteniendo a todos los demás decisivamente fuera. De eso se trata.

Lo que es peor: en este caso, "todos los demás" no es solo cada otra nación o empresa, sino prácticamente literalmente todos los demás.

Esto va de la consolidación del poder.

Los modelos de pesos abiertos están alcanzando la frontera. También parece que los modelos de frontera alcanzaron algún límite, ya sea relacionado con el capex, con el modelo de negocio o con otra cosa. Nadie lo sabe, pero les está pasando a todos los laboratorios de frontera, al parecer.

Se ha sembrado el miedo muchas veces de que la IA nos matará a todos. Pero esta vez, una persona con unos 2-3 meses de antigüedad en Anthropic logró hacerse viral sin actividad previa en redes sociales, la recogen todos los medios y desata otra ronda más de alarmismo.

Así que las verdaderas preguntas que hay que hacer son:

* ¿todo esto es para aumentar las valoraciones antes de la IPO?

* ¿cuál es la verdadera barrera de entrada para que el público use modelos de pesos abiertos?

* ¿qué muestran las finanzas de estas empresas que está causando este clamor sobre la seguridad?

La gente necesita pensar realmente de forma crítica sobre las cosas que pasan a su alrededor. No se queden solo con el valor nominal de lo que se presenta aquí.

Esta es exactamente la razón por la que el llamado de Anthropic a frenar el desarrollo de la I.A. fracasará. Los accionistas serán reacios a aceptar que la compañía pierda su liderazgo y una caída aguda y proporcional en el precio de sus acciones.

Además, podría llevar a que China se ponga al día y eventualmente proclame que se ha adelantado a EE. UU. en el campo. El gobierno de EE. UU. no permitirá que eso ocurra.

Realmente no sé qué pasará con la IA. Honestamente da un poco de miedo porque la pregunta que solía hacerme de niño solo por diversión, '¿y si la IA se rebela?', parece que podría no estar tan lejos. Parece que ChatGPT salió hace solo unos años, pero ver lo lejos que ha llegado ya hace imposible predecir cómo será la IA en el futuro. Solo espero que la humanidad logre navegar esto bien.

Si alguien va a acabar con la humanidad, ¿por qué no las chicas gato, después de todo?

> Todos deberían frenar el desarrollo de la IA excepto yo

¿Quién ha dicho esto? Y luego, más ampliamente, supongo, ¿quién lo ha insinuado? Tengo mucha curiosidad por saber si hay artículos o publicaciones específicas que provoquen esto.