AI устраивает «Пикник на обочине» для науки
AI Is Throwing a Roadside Picnic
Автор использует роман Стругацких «Пикник на обочине» как метафору для описания влияния AI на науку. Лаборатории решают тысячелетние задачи и обрушивают на исследователей лавину открытий, которые те не успевают осмыслить. Ответы приходят раньше понимания, и это грозит хаосом. Автор задаётся вопросом: не превратится ли вывод AI в непонятные артефакты, сеющие разрушение, и призывает лаборатории наращивать понимание, а не просто ускорять открытия.
«Представьте себе пикник. Лес, проселок, поляна. С проселка на поляну сворачивает машина, из неё выходят молодые люди с бутылками, корзинами с едой, транзисторными радиоприёмниками и фотоаппаратами. Они разжигают костры, ставят палатки, включают музыку. Утром они уезжают. Животные, птицы и насекомые, которые всю долгую ночь в ужасе наблюдали за ними, выползают из своих укрытий. И что же они видят? Бензин и масло, разлитые по траве. Старые свечи зажигания и фильтры, разбросанные вокруг. Тряпки, перегоревшие лампочки и забытый гаечный ключ. Масляные пятна на пруду. И, конечно, обычный мусор — огрызки яблок, обёртки от конфет, обугленные остатки костра, консервные банки, бутылки, чей-то носовой платок, чей-то перочинный ножик, разорванные газеты, монеты, увядшие цветы, сорванные на другом лугу». «Понятно. Пикник на обочине». «Именно. Пикник на обочине, на какой-то дороге в космосе. А вы спрашиваете, вернутся ли они».
- asimpletune
> Все эти новые знания прибывают с такой скоростью, которая намного превышает способность области их обрабатывать
В этом вся проблема: это не знания, это данные. AI не может дать обоснование доказательствам, или быть допрошенным о них, или организовать доклад, излагающий идею, потому что за всем этим нет никакого понимания.
Именно об этом говорил Tao; что результаты, в строгом смысле, никогда не были целью. В конечном счёте ценным является понимание (которое ранее требовалось для формирования доказательства).
- prodmod
Полезность зависит от понимания, даже если это означает понимание того, что возможно запросить. То, что генерируется прямо сейчас, на самом деле всего лишь перевод одного непостижимого явления в другое. Ни в том, ни в другом случае у нас нет власти над данными, потому что мы не знаем, что они означают, откуда они на самом деле берутся, и даже не имеем представления о начале границ того, что позволяет открытие. Мы обменяли один чёрный ящик на другой и всё ещё должны его распаковать.
- pavel_lishin
Я думаю, что рассказ Ted Chiang «The Evolution of Human Science» может быть здесь значительно лучшей метафорой. То, что сбрасывает AI, — это (якобы) просто ответы, а не загадки. В обоих случаях мы не совсем понимаем это, но в «Пикнике» большинство оставленных вещей даже не полезны, а лишь загадочны или, чаще, опасны. В «Evolution» ответы (и только ответы) и технологии прибывают в готовом виде, с нулевым пониманием.
- https://en.wikipedia.org/wiki/The_Evolution_of_Human_Science
- https://gwern.net/doc/fiction/science-fiction/2000-chiang.pd...
- skybrian
Мне больше нравится такая метафора: математическое сообщество похоже на группу древних астрономов, которые неожиданно получают выходные данные от современного телескопа. «Зачем вообще смотреть на небо?» — говорят некоторые. «И у нас даже нет этого телескопа!»
Тем временем обсерватория Rubin создаёт архив, который растёт на 20 терабайт каждую ночь, и никто особо об этом не беспокоится. Разбираться с таким объёмом данных — определённо проблема, но также и приятная проблема, при условии, что есть научное сообщество, способное с ней справиться. Математика неожиданно стала Big Science, и должны быть лучшие отношения между финансистами научных инструментов и самими учёными.
Немного сбивает с толку, что выходные данные научного инструмента выглядят как плохо написанные академические статьи. Может быть, к ним следует относиться больше как к сырым данным? Формат не идеален, но историкам (например) часто приходится иметь дело с куда худшим.
- m3047
Мне нравится эта метафора. Но она вызывает у меня в памяти «инопланетный артефакт», который был найден у дороги, и «как эти очищенные металлы оказались внутри камня, в такой неестественной формации?» — и было много споров об этом артефакте. Годы спустя было установлено, что это на самом деле была свеча зажигания, которая была реминерализована стоками из шахты выше по течению: необычный процесс, воздействующий на выброшенный объект, и люди, которые хотят верить. Никто не думал, что процесс реминерализации может занять меньше сотен лет, что исключало «свечу зажигания».