Билл Гейтс решил, что разбирается в биологии, и это многое объясняет
The Claude Delusion

Автор разбирает интервью Билла Гейтса, в котором тот рассказывает, как придумывал собственные сложные вопросы по биологии, чтобы проверить OpenAI, а позже заявил, что модели Claude пишут код «не хуже меня» и потому «сверхчеловечески». По мнению автора, за этим стоит эффект сверхуверенности: успешные люди в tech привыкли считать себя гениями во всём и распространяют это на ИИ — отсюда и разговоры о суперразуме, агентах и конце света.
Сама мысль о том, что нечто другое может быть «так же хорошо, как я», во-первых, с трудом укладывается в голове, а во-вторых, неизбежно означает, что оно «сверхчеловеческое».
- ianm218
Мне аргумент автора кажется не очень убедительным. Билл Гейтс, по всем отзывам, в своё время был выдающимся программистом, а потом долго оценивал работу инженеров-программистов. Он кажется естественным человеком, чтобы оценить прогресс ИИ в программировании?
Примерно тогда, когда ИИ стал намного лучше справляться с SQL, я каждый день писал SQL на работе, и так было годами. Не думаю, что с моей стороны было бы высокомерием судить, что он стал действительно хорош и вскоре превзойдёт человека в SQL. В любом случае это было бы правильно.
- cronin101
Мне кажется, это написано с забвением большого контекста того времени (я был в той части индустрии, где можно было присутствовать при некоторых ранних моментах «о чёрт, это работает»).
Совершенно не было данностью, что предсказание следующего токена будет масштабироваться до такой степени, что сможет отвечать за пределами своей обучающей области (это как раз про «выдуманные вопросы» — было важно тестировать на материале вне обучающего набора, поскольку масштаб обучения был тогда неслыханным).
Более того, успех пост-обучения на верифицируемых задачах (программирование) тоже был полным шоком, который изменил мир за одну ночь. LLM внезапно перепрыгнули пропасть от «я могу написать код» к «я уверенно могу написать код, который решает вашу задачу», и это изменило индустрию.
Для человека, настолько вовлечённого в это с ранних дней (вспомните масштаб обязательств Microsoft), совершенно логично, что тестирование «в первый же день» происходило, и это было бы гораздо большим шоком по сравнению с большинством людей, которые узнавали о достижениях одновременно со всем остальным миром. (Между исследовательскими возможностями и выпуском продукта огромные задержки)
- jmathai
Статья сначала утверждает, что Гейтс недостаточно эксперт в биологии, чтобы оценивать способность ИИ отвечать на сложные вопросы по этой теме как прорыв.
А затем сразу же говорит, что его комментарии о программировании с ИИ высокомерны, несмотря на то, что он эксперт в этой области с опытом большим, чем почти у кого угодно.
Не уверен, как это интерпретировать.
- blincoln
Люди на стороне автора в этом споре просто ещё не видели свидетельств из первых рук. Я могу понять скептицизм до этого момента, но они обязаны себе дать шанс передовым моделям конца 2026 года.
Момент озарения для меня наступил, когда я дал Claude Code сложную задачу обратного проектирования: понять, как работает сложная проприетарная схема кодирования, а затем создать кодировщик и декодировщик. Есть некоторые дополнительные усложняющие факторы, которые я не могу раскрыть, потому что это было для работы, но задача была сложной.
Для контекста: я занимаюсь обратным проектированием более 25 лет. Я не лучший в мире, но довольно хорош, когда нахожу время.
Мы с коллегой потратили на работу около недели, и я оценил, что нам понадобится ещё 2-3, чтобы завершить. Мы выяснили, как кодируется примерно 3/4 сообщений, но остальные просто не имели смысла.
Я дал Claude Code наши заметки, и через 15 минут он закончил разбираться с остальной частью протокола и создал декодировщик командной строки. Я попросил добавить функцию кодирования, и ещё через десять минут он сделал и это. Он тщательно протестировал весь свой код, используя наш корпус реальных данных.
Декодировщик работал идеально на всех наших существующих захватах, а также на новых данных, собранных после этого.
Мне пришлось внести небольшое изменение в кодировщик, связанное с одной из вещей, которые я не могу раскрыть. Я не виню за это модель, потому что у неё не было доступа к реальному продукту, чтобы проверить свой вывод. […]
- siva7
> Я выбрал Билла Гейтса выше, чтобы проиллюстрировать эффект сверхуверенности
Прочитав ваш блог, я могу утверждать, что вы продемонстрировали этот эффект на себе. У Билла есть все способности и подтверждённые полномочия, так что мы знаем, что этот парень — авторитет в темах программной инженерии, а у вас, если я не ошибаюсь, ноль.
- jrm4
Автор абсолютно прав насчёт Билла Гейтса. По его собственному признанию, его компания по сути пропустила приход интернета, и мы все буквально страдаем от этого сегодня.
Он пропустил грядущую взаимосвязанность машин и вместо этого предположил, что каждый компьютер будет навороченным копировальным калькулятором (который никогда не будет общаться с другими, поэтому безопасность не нужна).
Огромная дыра в восприятии.
- hliyan
Первая часть статьи имеет смысл в том, что:
В любой системе конкурирующих агентов (таких как люди), где вознаграждение за производительность может улучшать производительность, всегда будут даже незначительные случайные различия в начальной производительности экспоненциально накапливаться, пока один или несколько индивидов не станут доминировать. В такой системе лишь небольшую часть успеха можно приписать врождённым навыкам. Так что верно, что успех сам по себе, хотя и сигнализирует о приспособленности к выживанию, не обязательно сигнализирует о выдающейся способности делать точные суждения.
Мне не совсем ясно, что пытается передать вторая часть статьи. Что очень успешные люди приписывают свой успех целиком своим навыкам и поэтому, когда машина оказывается способна воспроизвести их набор навыков, они удивляются и считают технологию меняющей мир?
- dgreensp
Это весёлое чтение.
Но сегодняшние агенты «сверхинтеллектуальны» так же, как поезда «сверхлокомотивны» — то есть быстрее бегущего человека. И они могут нести больше. Поезда просто лучше людей добираются из точки А в точку Б.
Это не значит, что поезда — сверхраса, а люди устарели, просто мы построили машины, которые могут делать что-то эффективнее, чем физически способны наши тела, как обычно.
Интеллект — не то, что делает нас людьми. Человек, который не умеет играть в шахматы или писать сонеты, всё равно человек.
Их называют «агентами», потому что они могут и действительно выполняют действия автономно от нашего имени. Виртуальные агенты — не новость.