AI разрушает интеллектуальные сообщества, и частные занятия наукой становятся бессмысленными

Это хорошо сформулировано, и я думаю, многие из нас с этим борются.

Сам интернет, кажется, заполнен AI-максималистами, у которых нет конца хайпу по поводу последней «техники» промптинга, или AI-думерами, которые сдерут с тебя кожу живьём, если ты упомянешь, что однажды использовал AI, чтобы сделать фотографию.

Тихо, среди коллег, с которыми я общаюсь, существует, похоже, совсем другая группа: те, кто признаёт, что AI невероятно ценен для выполнения кучи работы, но также чувствует, что внезапно работа стала гораздо менее захватывающей, чем была раньше.

Конечно, есть очевидный компонент «мне нравится механика программирования», который исчез, но есть ещё и это общее ощущение, от которого трудно избавиться и которое кажется немного глубже. Я задумывался об этом. Это всё увольнения? Внезапно шаткая экономика для многих наших компаний? Неопределённость будущего карьеры в целом?

Я думаю, автор хорошо это ухватил, описав как отсутствие интеллектуального сообщества. Это, по крайней мере, часть этого.

Мне это очень понравилось. Я чувствовал именно то, что описывает автор — раньше я очень заботился о своём ремесле (iOS-приложения), и это было разрушено AI. Не то чтобы ремесло и вкус перестали быть отличием — я думаю, просто стало гораздо менее приятно создавать что-то идеальное неделями, если ты можешь пройти 80% пути за один день.

«Частная интеллектуальная деятельность, которая является устойчивой, сложной и долгосрочной, требует внешнего интеллектуального сообщества, обеспечивающего материал и мотивацию, как топливо и окислитель. Эта частная деятельность, в свою очередь, поддерживает сообщество...»

Я думаю, много величайшего искусства было создано такого рода «сценой». Музыка, например, создаётся не только индивидуумом, она возникает из слушания, наблюдения и игры с другими. Позже ты садишься, и весь этот вклад превращается во что-то совершенно новое.

Я думаю, одновременно с тем, как я начал «выходить из программирования», я начал глубже погружаться в музыку. И если бы это был только я, это было бы недолгим. Но наличие людей в реальной жизни, с которыми можно играть и обмениваться идеями, делает это примерно в 100 раз лучше и поддерживает тебя гораздо дольше, чем ты бы сам забросил.

Я бы посоветовал любому, кто чувствует то же самое, найти что-то подобное. Акт творения всё ещё так же важен, как и раньше, просто нужно направить свою энергию на что-то более чисто человеческое. Займись писательством, рисованием, столярным делом... даже если эти вещи мгновенно массово производятся, мы всё равно будем ценить и платить людям за то, что они это делают.

Я т […]

Да. Я говорил нескольким друзьям и знакомым, что AI — это, как ни странно, наименее интересная технология в моей жизни: бустеры используют AI, чтобы писать о том, как они использовали AI для создания новых инструментов, помогающих им AI-ить их AI; хейтеры пишут (а иногда, что шокирует, используют AI, чтобы написать) о том, как AI заAI-ит всех нас. Ты пробовал этот новый навык? Прочитай мою научную работу, она показывает, что AI может хорошо работать без присмотра? О да, это интересно, а что ты думаешь о том, как он сделал X, Y и Z? Не знаю, чувак, я не так много времени на это потратил.

Становится одиноко, даже если, или особенно если, ты сошёлся на «мне плевать на AI».

В этом посте есть несколько вещей, с которыми я не согласен (думаю, это вопрос перспективы):

> Дискурс вокруг программной инженерии поглупел. Такое ощущение, что все в индустрии потеряли 30 пунктов IQ. Раньше люди говорили о компиляторах, системах типов, логике. Теперь они говорят о «промптах», «харнессах», «циклах». Дискурс стал уже, поверхностнее и более повторяющимся. Я могу слышать про «агентные харнессы» лишь ограниченное число раз, прежде чем сойду с ума.

Я согласен с разочарованием здесь :)

> Ты разрабатываешь революционный новый язык программирования: кому какое дело? Может, Claude и важно, если это чего-то стоит. Но люди больше не пишут и даже не читают код. Язык программирования — это деталь реализации, о которой людям больше не нужно заботиться.

Возможно, люди, которые не были склонны думать о компиляторах, системах типов и логике до появления кодирующих агентов, никогда не будут думать об этих вещах. Если уж на то пошло, я думаю о этих системах значительно больше сейчас, потому что я рассматриваю их как способы описать пространство поиска для агента ... и, возможно, в будущем даже как инструменты для структурирования агентных латентных представлений.

Поэтому я предлагаю повернуть свой вьюпорт: да, возможно, стоит рассмотреть идею, что нет смысла думать об этих вещах для человеческого потребления ... но вместо этого, что если мы будем думать о дизайне языков программирования и компиляторов как об инструменте для управления пространством поиска, и внезапно появится много новых способов думать об этих вещах.

Ценен ли такой способ мышления? Я […]

Я написал пост в блоге с очень похожими аргументами ранее на этой неделе в ответ на мнения некоторых математиков — как раз перед публикацией статьи OpenAI несколько дней назад (https://creating.software/essays/ai-and-math/).

Я чувствую, что мы все одновременно осознаём, что (1) интеллектуальная деятельность является communal, и всё же (2) эти сообщества поддерживаются признанием индивидуальных достижений. Какой способ это выяснить.

Я утверждаю (здесь и в своём посте), что человечество на самом деле не может продвигаться без этих человеческих сообществ. Критически важно, чтобы люди не бросали изучение вещей, которые AI знает лучше них, потому что они играют важную роль в этих сообществах, а сообщество критически важно.

Моя (возможно, наивная) надежда всё ещё в том, что люди найдут способы продолжать заниматься этим ради удовольствия, как шахматы (соревнования, награды, тренеры, не знаю). У нас всё ещё есть шахматные турниры и тому подобное, хотя компьютеры гораздо лучше играют в шахматы и уже давно. Сообщество и признание индивидуальных достижений там присутствуют. И человеческие шахматы и шахматные движки стали значительно лучше, так что компьютерное доминирование не смогло убить прогресс в шахматах (сегодняшний stockfish победил бы Каспарова в 1997 году, работая на настольном компьютере 1994 года: https://www.lesswrong.com/posts/4MLBK7iCW3vYd93Mn/a-closer-l...)

Может быть, математические олимпиады и соревнования по программированию живут намного дольше конца их практической полезности — мне они всегда нравились.