ChatGPT помог мне сдать четыре курса Oxford за полтора месяца

Я рад, что закончил свою диссертацию до того, как всё это вышло на рынок. Похоже, это был бы существенно иной опыт, и подозреваю, что я мог бы и не закончить её с таким же прочным пониманием темы своей диссертации, как сейчас.

Её комментарий про блокнот Mathematica очень отзывается. Как учёный, а не инженер-программист, который использует код как инструмент для ускорения более критичных частей своей работы, я был в восторге от возможности учиться программированию прямо на работе. Я мог это оправдать, потому что время, сэкономленное благодаря плодам этого, перевешивало время, потраченное на обучение. Теперь я так не могу. Я не строю софт, а просто пишу скрипты, так что даже самые дешёвые модели сегодня могут дать мне подходящий код быстрее, чем я написал бы его сам. Поэтому я больше не могу оправдать изучение новых навыков программирования, по крайней мере в рабочее время. Я рад, что у меня было несколько лет, чтобы освоить основы до того, как эти инструменты стали доступны.

Общество выигрывает, когда личное взаимодействие укрепляет понимание и создаёт новые идеи и подходы /у обеих сторон/.

Поскольку теперь бывшие потенциальные коллеги питаются более или менее одним и тем же сгенерированным контентом, трудно представить, как ИИ это заменит.

И это не говоря уже о дальнейшем отчуждении, на которое сильно намекает статья.

Я отчасти согласен со статьёй на уровне нарратива.

В последнее время мои мысли о нашем будущем с LLM тоже немного помрачнели.

Параллель между LLM и софонами из романов «Задача трёх тел» кажется мне всё более точной. То есть конкретно в плане их эффекта торможения человеческого прогресса. Конечно, любой может отказаться от использования LLM (в отличие от софонов), так что ограничение прогресса в этом смысле какое-то «мягкое», но шансы, что кто-то решит так поступить, по-моему, не слишком высоки. Намного проще не заставлять себя учить или исследовать сложное, а просто спросить модель.

Хотя я склонен поддерживать это в такой области, как SW Engineering (если бы только аспекты стандартов и контроля качества развивались так же быстро, как генерация сырого кода...), я разделяю те же опасения, что и Тао и другие, относительно математики (и не только математики; информатика, которая в конечном счёте лежит в основе SWE, тоже в центре внимания).

> В частности, было бы довольно грустно уничтожить одну из немногих вещей, которые делают нашу жизнь осмысленной, не шикарный приз или шикарную должность, а просто наличие сообщества, чтобы делиться, обсуждать и учиться.

Именно. Проблема, правда, странная, потому что здесь работает вместе как минимум несколько независимых сил:

(1) Люди, изобретающие ИИ, или те, кто за ИИ, — обычно те, кого приучили наслаждаться «информационным приходом» и ставить личное поверхностное удовольствие выше человеческого взаимодействия. Многие нерды/гики просто обожают идею площадки, где не нужно реально взаимодействовать вне своего микрокосма, и поэтому считают ИИ лучшим изобретением со времён нарезного хлеба. Часто это люди, которых травили в школе или как минимум частично отвергали в раннем возрасте из-за их интеллекта, и они находят эмоциональный комфорт в технологиях.

(2) Извращённые стимулы академии вознаграждают публикации, а в целом стимулы капитализма создают гонку вооружений за максимальную эффективность в ущерб таким благам, как «сообщество», которые приносят лишь смутные выгоды, часто вне капиталистической системы. Поэтому люди склонны использовать ИИ.

(3) Сама очень продвинутая технология ослабляет и даже разрушает небольшие сообщества, члены которых затем ищут технологию как поверхностное средство, чтобы облегчить то, что они сознательно или подсознательно ощущают как что-то недостающее.

ИИ никогда не был великим. Знание как самоцель — не благо, и нам следует искать знание т […]