Las predicciones del escéptico de la IA Ed Zitron: ¿qué tan acertadas fueron?

Al observar las refutaciones de las predicciones de Zitron en el artículo, se reducen a dos categorías:

1. Zitron afirma que la capacidad de los modelos ha alcanzado su punto máximo.

2. Zitron afirma que el crecimiento de los laboratorios de IA (usuarios e ingresos) se ha estancado.

En el primer caso, el artículo lo refuta afirmando 'incorrecto' repetidamente, lo cual no me convence de nada. En todo caso, probablemente Zitron tenga razón en este aspecto, ya que la mayor parte del progreso reciente en la tecnología LLM ha sido la configuración de salvaguardas para persuadir a los modelos mediante 'agentes'.

En el segundo caso, se dan cifras que muestran crecimiento, refutando directamente a Zitron. Sin embargo, le doy el beneficio de la duda a Zitron, dado el viejo dicho: el mercado puede permanecer irracional mucho más tiempo del que tú puedes permanecer solvente. Mientras la gente pueda ser convencida de que el cielo se está cayendo, las predicciones racionales rara vez se cumplen.

Zitron se ha convertido en el reflejo distorsionado de los mismos promotores de la IA a los que critica y ridiculiza.

Creo que lo peor que le pasó fue que el escepticismo hacia la IA se convirtiera en una posición política. Esto le dio una audiencia cautiva: mientras diga lo que quieren oír, lo que significa que nunca jamás puede admitir que podría haberse equivocado o que la IA podría estar progresando o teniendo éxitos.

Esto no es conducente a hacer buenas predicciones a largo plazo; más bien lleva a uno a un estado de disonancia cognitiva donde los enemigos elegidos deben ser simultáneamente aterradoramente poderosos e incompetentes necios. La enfermedad del propagandista.

Aunque la burbuja no ha estallado, no veo lo siguiente discutido en el artículo: Zitron probablemente señalaría (como otros han hecho) que muchos de los hiperescaladores están registrando aumentos de valoración en Anthropic, OpenAI como "Otros Ingresos", lo que está aumentando sustancialmente sus ingresos y ganancias reportadas. Es aproximadamente:

- Los hiperescaladores como Goog, Meta, Msft invierten efectivo en Anthropic, OpenAI, a cambio de capital.

- La inversión continua en realidad impulsa las valoraciones de Anthr/OpenAI (las nuevas rondas se realizan a valoraciones más altas), por lo que la valoración de las inversiones existentes del hiperescalador en Anthr/OpenAI aumenta, lo que se registra como Otros Ingresos en las ganancias trimestrales.

- Gran parte de ese efectivo invertido regresará (circularmente) a los hiperescaladores como ingresos, ya que Anthropic y OpenAI gastan mucho dinero a través de centros de datos, etc.

Sobre el fenómeno de Otros Ingresos, ver por ejemplo,

https://www.ft.com/content/be97df0a-76b1-4cb0-9ba4-d1117d8d1...

Además, aparentemente hay mucha deuda fuera de balance. Por ejemplo

https://www.ft.com/content/a0a07cce-6d19-4b1e-a73b-9855a06ba...

Una cosa que estoy observando en estos comentarios es la disposición de la gente a proyectar sus propias predicciones sobre las declaraciones de Ed al validar su plausibilidad. Por ejemplo, "Creo que se equivoca en el momento, pero sí espero que las empresas de IA lleguen a cero".

Puedes hacer eso, pero entonces ya no estás discutiendo sus predicciones. Estás discutiendo tus predicciones y tu propio posicionamiento.

Esas difieren del ensayo de Dan, que se involucra con el texto literal de las numerosas predicciones de Ed durante 2024 y 2025 que están demostrablemente invalidadas por sus resultados medibles.

No creo que Zitron esté equivocado, exactamente. Solo es prematuro. Hay muchos analistas que han enfrentado las mismas críticas en los últimos 10-15 años. En mi opinión, el problema es que no logran entender el asombroso tamaño y alcance de las intervenciones fiscales y monetarias del gobierno a lo largo de esos años. Esencialmente, el gobierno ha metido todo el riesgo en el futuro para rescatar repetidamente los resultados a corto plazo.

Creo que algo similar está sucediendo con, por ejemplo, las predicciones de Amodei sobre desempleo masivo debido a la IA. No sucederá en el corto plazo, porque el gasto deficitario elimina el incentivo económico para que las empresas reduzcan sus fuerzas laborales.

Dicho todo esto, no creo que estas personas estén "equivocadas", per se. Solo son prematuras. Cuando la mierda golpee el ventilador con todo esto, va a ser un gran problema. Y, por ejemplo, las empresas cuyo negocio principal es cobrar dinero por anuncios de Internet se enfrentarán a la realidad de lo poco valor que tienen sus productos. Tengo cierta visión sobre esto, ya que trabajo para una de esas empresas y conozco el verdadero alcance del tráfico de bots que hay.

Ser minucioso y preciso podría hacerte ganar mucho dinero en el mercado de valores, pero no es una buena manera de obtener presencia en los medios, porque eso exige estar frente a la gente con bastante frecuencia, y básicamente nadie puede ser perspicaz y estar bien investigado en todos los temas del día. Una vez que te conviertes en comentarista, ya sea en política o tecnología, y dependes de las miradas para alimentarte, vas a estar lanzando pestiños. Y en ese punto, más te vale alinearte con una audiencia y no preocuparte demasiado por si estás prediciendo algo con precisión.

Tenemos gente diciéndonos que la próxima recesión es inminente todo el tiempo. Otros nos dijeron que los NFT eran clave para el futuro del arte. Ese es el camino del comentarista. Si quieres precisión, te conviertes en Charlie Munger, tienes quizás 2 o 3 ideas realmente buenas a lo largo de tu carrera, y esperas hacerlo bien usando las ideas tú mismo, no siendo un comentarista.

> Para cualquiera de sus publicaciones que leí, aunque hay números por ahí, los números no se conectan realmente con un argumento coherente. En muchos casos, como vimos arriba, los números ni siquiera apoyan realmente su argumento (como una disminución de MAU en Facebook que causa problemas financieros a Meta, lo que luego haría que Meta insertara espuriamente IA en lugares donde no pertenece). Sospecho que depende de que los ojos de la gente se pongan vidriosos cuando ven números y simplemente no piensen en lo que significan.

Una cosa frustrante de Ed Zitron es que a veces da noticias exclusivas: obtiene números filtrados que nadie más tiene, por ejemplo, pero luego envuelve esos números en su propio comentario extremadamente sesgado. Esto hace que sea mucho más difícil evaluar cuán creíble es la nueva información.

> Dado lo rápido que están creciendo estas empresas (en términos de ingresos y ganancias), no parece que la IA sea, como Zitron implicó, algún tipo de movimiento desesperado al que recurren porque "no saben cómo crecer" y se les han acabado las ideas.

El crecimiento no es una refutación válida, a menos que también podamos determinar cuánto de ese crecimiento está ligado a la financiación circular de proyectos de IA. Tenemos una idea bastante clara de cuánto de la valoración de Nvidia está ligada a la locura de la IA, pero es un poco más difícil de decir con los megacloescaladores...

> En cuanto al estilo de razonamiento, de los futuristas revisados, probablemente sea el más cercano a Kurzweil, en el sentido de que usa números para dar una especie de aura de credibilidad, pero si sabes algo sobre el tema que está discutiendo o miras los números, el razonamiento se desmorona.

En una de sus publicaciones hace unos meses, se fue por una tangente extraña sobre el CEO de ServiceNow hablando de la planificación de ventas y si sus equipos están "en plan" o no. Para las personas que no han pasado tiempo en o cerca de ventas, esta es una abreviatura extremadamente común para el seguimiento de cuotas.

La diatriba de Ed sobre lo increíblemente extraño e inhumano que era el marco reveló lo poco que sabe, y le importa saber, sobre los mecanismos de los negocios que afirma perfilar. Sí, algo como "en plan" es jerga, pero una pizca de curiosidad periodística razonable (una búsqueda en Google) explicaría lo que significa y cómo es una declaración normal para un CEO de carrera en ventas.