«Извините, вы не умрёте от супервируса, созданного ИИ»
I'm sorry, you're not going to die from an AI-engineered supervirus
Автор, специалист по вычислительному дизайну вирусов и белков, разбирает недавнюю статью экономиста Noah Smith о супервирусах, созданных ИИ. Он напоминает, что дизайн биологических систем чудовищно сложен: даже современные AI-инструменты редко справляются с простыми пептидными связывателями, а идея, будто подросток без подготовки сможет создать смертельный вирус, не выдерживает критики. Автор объясняет фундаментальные компромиссы между летальностью и заразностью и заключает, что бояться стоит не вымышленных AI-вирусов, а реальных — вроде кори.
Когда люди верят, что ИИ мог бы разобраться с этим самостоятельно, без предварительных обширных и дорогостоящих фундаментальных научных экспериментов, они покидают область науки и вступают в то, что можно назвать только религией.
- janalsncm
> Когда люди верят, что ИИ мог бы разобраться в этом сам, без предварительного проведения обширных и дорогостоящих фундаментальных научных экспериментов, они покидают область науки и вступают в то, что можно назвать только религией.
Я полностью согласен с этим. Слишком у многих людей в мозгу засел цитата Артура Кларка.
Так много в науке зависит от физического мира и не может быть выведено из первых принципов, то есть путём напряжённых размышлений. (Прости, Платон, но ты не сможешь додуматься до Луны.) Нужны всё более точные измерения, а значит, всё более сложные инструменты, а значит... цепочки поставок. Наука требует цепочек поставок. Магия — нет.
- jsnell
У коренных американцев была примерно 95-процентная смертность от инфекционных заболеваний в первом поколении европейского заселения, разве нет? Корь, оспа, грипп и т.д.
Смертность от этих болезней была выше, чем сегодня, потому что у населения вообще не было иммунитета, что приводило как к более высоким показателям передачи, так и к более высокой смертности. Это было бы верно и для сконструированного вируса.
И это был не просто один вирус, это был целый континентальный арсенал инфекционных заболеваний, обрушившийся перекрывающимися волнами. Опять же, нечто такое, что вы бы сделали, если бы пытались максимизировать ущерб.
Так что я не нахожу большую часть статьи о том, что вирус не может иметь такого эффекта, столь уж убедительной.
- woopwoop
Автор, похоже, утверждает, что биологически невозможно или что-то в этом роде иметь вирус с теми же свойствами передачи, что и COVID, но с более высокой вирулентностью. Я не понимаю, какой принцип он привлекает, чтобы сделать такое заявление.
- Footnote7341
Все собрались и хлопают себя по спине, но оспа обезлюдила целый континент. Очевидно, что существование высокозаразного смертельного вируса возможно.
- Metacelsus
То, что автор не может придумать способ вызвать массовую гибель с помощью сконструированного вируса, не означает, что ИИ не сможет придумать такой способ.
(Есть несколько биологических угроз, которые автор не рассмотрел. Я просто оставлю это здесь.)
- colingauvin
О боже, СПАСИБО.
У меня нет слов, чтобы выразить, как я устал слышать, как технари и экономисты рассуждают о биологии.
- 01284a7e
"Проблемы, с которыми вселенная может столкнуть любое общество, практически бесконечны по числу и бесконечно разнообразны". — Джозеф Тейнтер
ИИ действительно поможет вселенной генерировать больше проблем. Может, это и не супервирус, но чёрт возьми, может, и он.
- gerdesj
Да, судный день наступит не от разочарованного подростка, который наплодит вариантов COVID-19 (что бы это ни значило) и распылит их на людей.
Для настоящего дела нужна лаборатория, возящаяся с вирусами, и то, что случилось несколько лет назад... и это не уничтожило человечество.