Сможет ли ИИ создать супервирус? Ответ подскажут его успехи в материаловедении и биологии
Watch AI materials-science and bioscience abilities closely
Yair Halberstadt рассматривает краткосрочный риск создания супервируса с помощью ИИ. Ключевой аргумент: разработка сложных вирусов требует многократных итераций в лаборатории, что создаёт высокий барьер. Ранним индикатором станут способности ИИ в материаловедении и биологических науках. Если LLM смогут с первого раза предложить комнатный сверхпроводник или лекарство от рака — это тревожный сигнал. Если нет — угрозу «ИИ отправляет в компанию по синтезу ДНК план супервируса» можно считать менее вероятной.
Если передовые LLM окажутся способны с первого раза предложить комнатные сверхпроводники или лекарства от рака, нам следует крайне обеспокоиться тем, что они сделают с вирусом.