Как именно A.I. может нас убить?

How, Exactly, Could A.I. Kill Us?

Математик Джейкоб Коксон уволился из Anthropic, заявив, что создатели A.I. всерьёз верят в гибель человечества к концу десятилетия. В подкасте The Political Scene Джошуа Ротман обсуждает свой P(doom) — десять процентов — и разбирает три сценария: захват власти сверхразумом, использование моделей злоумышленниками уже сейчас и ошибки вроде промышленных аварий. Разговор касается и того, почему угроза стала восприниматься реальной после взлома Hugging Face и решения задачи тысячелетия.