Terence Tao предупреждает: ИИ-решатели задач истощают математику

Очень взвешенный взгляд, и поднятые им проблемы разумны. Он признаёт, что ИИ преобразит математику, но просто сваливать доказательства на математическое сообщество и ожидать, что другие выполнят черновую работу по их проверке, уточнению и развитию, — вряд ли продуктивный способ продвинуть область вперёд.

Похоже, больше интереса вызывает достижение какого-то произвольного бенчмарка (мы доказали X нерешённых задач), чем подлинный вклад в математику. Но чего ещё ожидать? Это превратилось в маниакальную гонку с чрезмерными деньгами. Слишком много усилий вкладывается в доказательство того, что экспоненциальная кривая всё ещё держится.

Авторов доказательства приглашают выступить со множеством докладов и встретиться с другими экспертами в этой области. Организуются воркшопы для обсуждения доказательства, а также других недавних разработок.

задачи решаются автономно ИИ-промптерами, которые не заинтересованы в более широкой области как таковой, как только их первоначальная цель «решена», и не понимают вывод ИИ достаточно хорошо, чтобы отвечать на вопросы о результате

Ценность здесь, по-видимому, заключается в озарениях, которые получил автор доказательства, и в путях, которыми он шёл, и, возможно, что ещё важнее, которыми он не пошёл.

Приглашать только человека-промптера на доклад о статье — это как приглашать только заведующего кафедрой, менеджера фактического автора.

Ценная часть, отсутствие которой ощущает Тао, — это озарение, а его можно получить только в разговоре с роем агентов, которые разработали исходное доказательство со всем их контекстом.

Так что мне кажется, что нам нужна не Math 2.0, а Authorship 2.0. Я хочу «познакомиться» с контекстом, породившим эти доказательства. Я имею в виду, к счастью, они были созданы не безликими системами вроде SAT-солвера, с ними действительно можно поговорить, но я не уверен, что мы можем преодолеть свою гордыню и оказать истинным авторам этих доказательств такое признание.

То же самое можно сказать и о программном обеспечении. Вместо того чтобы отказываться от создания новых проектов и просто брать чужие идеи и портировать их на Rust, мы могли бы использовать ИИ, чтобы продвинуть программное обеспечение и компьютеры дальше.

Я не уверен, как это будет работать, но я убеждён, что нынешняя парадигма, когда агентов просто заталкивают в кодовые базы без особой причины, кроме той, что так можно, сделает разработку программного обеспечения невероятно скучной, оттолкнёт творческих людей от этой области и застопорит прогресс.

Мой прогноз: программное обеспечение станет скучным, а создание аппаратных проектов станет новой границей для творческих инженеров, стремящихся продвинуть вычисления дальше. И это, вероятно, хорошо.

Вместо того чтобы решать задачи, люди будут решать решения.

Настоящий вопрос в том, как придумать убедительную 3–5-летнюю исследовательскую программу, которую вряд ли кто-то опередит или которая не станет бессмысленной в одночасье.

3–5 лет — это срок гранта, а гранты должны обеспечивать прогресс в исследованиях, иначе следующего гранта не получишь.

Почему мы вообще занимались математикой? Мы должны радоваться, что математические задачи решаются, поскольку, предположительно, они были препятствиями для других проблем в науке и тому подобном. Но такое ощущение, что математика на самом деле была больше о поиске просветления, вроде формы умственной йоги или чего-то такого. Если так, может, мы можем просто игнорировать доказательства ИИ и продолжать?

>само знание того, что решение существует, «загрязняет» усилия как людей, так и ИИ по поиску альтернативных путей к задаче, которые раскрывают дополнительные озарения

Это действительно выражает ту изжогу, которую видишь во всех областях, а не только в карьеризме. У меня certainly есть друзья в сферах декомпиляции и фанатского перевода, которых демотивировал нынешний вал усилий там.

Спешка быть «первым» всегда была чрезмерно восхваляемой, но было бы приятно верить, что есть способ выйти за пределы такого мышления.

Он прав, я думаю, это было бы хорошим направлением для секторов и карьер, которые рискуют стать избыточными.

Я люблю таких умных людей; даже когда есть угроза, вместо того чтобы просто отрицать её или бойкотировать из злости, они находят новый путь для своего сообщества

Я думаю, этот акцент на «холистическом» подходе применим ко всему, чего сейчас касается ИИ, а не только к математике. В Twitter я вижу, как люди проходят игры с одного выстрела или воспроизводят игры. Если цель — просто пройти игру с одного выстрела с помощью ИИ, то это уже сделано. Но если цель — создать иммерсивную среду, которой люди смогут по-настоящему наслаждаться, восхищаться историей и мастерством, и находить совершенно новые способы оживить историю, — это совсем другое дело.