Ed Zitron's AI doom predictions: how accurate were they?

Глядя на опровержения предсказаний Зитрона в статье, всё сводится к двум категориям: 1. Зитрон утверждает, что возможности моделей достигли пика. 2. Зитрон утверждает, что рост ИИ-лабораторий (пользователей и выручки) остановился. В первом случае статья опровергает это, многократно заявляя «неверно», что меня ни в чём не убеждает. Если уж на то пошло, Зитрон, вероятно, прав в этом отношении, поскольку большая часть прогресса в недавних LLM-технологиях заключалась в установке ограничений, чтобы уговаривать модели с помощью «агентов». Во втором случае приводятся цифры, показывающие рост, что напрямую опровергает Зитрона. Однако я даю Зитрону презумпцию невиновности, учитывая старую поговорку — рынок может оставаться иррациональным дольше, чем вы можете оставаться платёжеспособным. Пока людей можно убедить, что небо падает, рациональные предсказания редко сбываются.

Зитрон стал искажённым отражением тех самых ИИ-энтузиастов, которых он критикует и высмеивает. Я думаю, худшее, что с ним случилось, — это то, что скептицизм по отношению к ИИ стал политической позицией. Это дало ему благодарную аудиторию — пока он говорит то, что они хотят слышать, а это значит, что он никогда не сможет признать, что мог ошибаться или что ИИ на самом деле может прогрессировать или добиваться успехов. Это не способствует хорошим долгосрочным прогнозам — скорее приводит к состоянию когнитивного диссонанса, когда избранные враги должны одновременно быть устрашающе могущественными и некомпетентными болванами. Болезнь пропагандиста.

Хотя пузырь ещё не лопнул, я не вижу, чтобы в посте обсуждалось следующее: Зитрон, вероятно, указал бы (как и другие), что многие гиперскейлеры отражают рост стоимости своих инвестиций в Anthropic и OpenAI как «прочие доходы», что существенно увеличивает их отчётную выручку и прибыль. Примерно так: гиперскейлеры, такие как Google, Meta, Microsoft, вкладывают деньги в Anthropic и OpenAI в обмен на долю; продолжающиеся инвестиции фактически повышают оценку Anthropic/OpenAI (новые раунды проводятся по более высоким оценкам), поэтому стоимость существующих инвестиций гиперскейлера в Anthropic/OpenAI увеличивается, что отражается как прочие доходы в квартальной отчётности; значительная часть этих вложенных денег сама вернётся (циклически) гиперскейлерам в виде выручки, поскольку Anthropic и OpenAI тратят много денег на дата-центры и т.д. О феномене прочих доходов см., например, https://www.ft.com/content/be97df0a-76b1-4cb0-9ba4-d1117d8d1... Кроме того, по-видимому, существует много забалансового долга. Например, https://www.ft.com/content/a0a07cce-6d19-4b1e-a73b-9855a06ba...

Одна вещь, которую я замечаю в этих комментариях, — это готовность людей проецировать свои собственные предсказания на утверждения Эда, когда они оценивают их правдоподобие. Например: «Я думаю, он ошибается насчёт сроков, но я ожидаю, что ИИ-компании обанкротятся». Так можно делать, но тогда вы больше не обсуждаете его предсказания. Вы обсуждаете свои предсказания и свою собственную позицию. Они отличаются от эссе Дэна, которое рассматривает буквальный текст многочисленных предсказаний Эда в течение 2024 и 2025 годов, которые, как можно доказать, опровергнуты их измеримыми результатами.

Я не думаю, что Зитрон неправ, если точно. Он просто рано. Многие аналитики сталкивались с той же критикой за последние 10–15 лет. На мой взгляд, проблема в том, что они не понимают ошеломляющих масштабов и размаха государственных фискальных и монетарных вмешательств за эти годы. По сути, правительство переложило весь риск на будущее, чтобы неоднократно спасать краткосрочные результаты. Я думаю, что-то похожее происходит, например, с предсказаниями Амодеи о массовой безработице из-за ИИ. В ближайшей перспективе этого не произойдёт, потому что дефицитные расходы устраняют экономический стимул для фирм сокращать штат. При всём при этом я не считаю этих людей «неправыми» как таковых. Они просто рано. Когда всё это дерьмо попадёт в вентилятор, это будет большая проблема. И, например, компании, чей основной бизнес — сбор денег за интернет-рекламу, столкнутся с реальностью того, насколько низкую ценность имеют их продукты. У меня есть некоторое понимание этого, так как я работаю в такой фирме и знаю истинные масштабы бот-трафика.

Быть дотошным и точным может принести вам много денег на фондовом рынке, но это не лучший способ получить присутствие в СМИ, потому что это требует частого появления перед людьми, и вряд ли кто-то может быть проницательным и хорошо осведомлённым во всех темах дня. Как только вы становитесь экспертом, будь то в политике или технологиях, и полагаетесь на просмотры, чтобы прокормиться, вы будете выдавать ерунду. И в этот момент вы можете просто примкнуть к какой-то аудитории и не слишком заботиться о том, насколько точно вы что-то предсказываете. Нам постоянно говорят, что следующая рецессия неизбежна. Другие говорили нам, что NFT — ключ к будущему искусства. Это путь эксперта. Если вы хотите точности, вы становитесь как Чарли Мангер, имеете, возможно, 2–3 действительно хороших прозрения за всю карьеру и надеетесь преуспеть, используя эти прозрения сами, а не будучи экспертом.

> В любом из его постов, которые я читал, хоть и разбросаны цифры, они не связаны в связный аргумент. Во многих случаях, как мы видели выше, цифры даже не подтверждают его аргумент (например, снижение MAU в Facebook, вызывающее финансовые проблемы Meta, которые затем привели бы к тому, что Meta безосновательно вставила бы ИИ в места, где ему не место). Подозреваю, он рассчитывает на то, что у людей глаза застекленеют при виде цифр, и они не задумаются о том, что эти цифры означают. Раздражающая вещь в Эде Зитроне — то, что он иногда публикует новости — например, достаёт утёкшие цифры, которых больше ни у кого нет, — но затем оборачивает эти цифры в свои крайне предвзятые комментарии. Это сильно затрудняет оценку достоверности новой информации.

> Учитывая, как быстро растут эти компании (по выручке и прибыли), не похоже, что ИИ — это какое-то отчаянное движение, к которому они прибегают, потому что «не знают, как расти» и у них кончились идеи. Рост — не опровержение, если только мы не сможем выяснить, какая часть этого роста связана с циклическим финансированием ИИ-проектов. Мы довольно хорошо представляем, какая часть оценки Nvidia связана с ИИ-лихорадкой, но с мегаскейлерами это определить сложнее....

> Что касается стиля рассуждений, среди рассмотренных футурологов он, вероятно, ближе всего к Курцвейлу в том, что использует цифры для создания ауры достоверности, но если вы что-то знаете о теме, которую он обсуждает, или посмотрите на цифры, рассуждения разваливаются. В одном из его постов несколько месяцев назад он ушёл в странное отступление о генеральном директоре ServiceNow, обсуждающем планирование продаж и о том, «на плане» ли его команды. Для людей, не проводивших время в продажах или рядом с ними, это чрезвычайно распространённое сокращение для отслеживания квот. Тирада Эда о том, насколько невероятно странной и бесчеловечной была эта формулировка, показала, как мало он знает и хочет знать о механике бизнеса, который он якобы описывает. Да, что-то вроде «на плане» — это жаргон, но крупица разумного журналистского любопытства (поиск в Google) объяснила бы, что это значит и как это нормальное заявление для генерального директора, который всю карьеру занимался продажами.