ИИ не нужен «сверхинтеллект», чтобы развязать ядерную войну
AI doesn't need 'superintelligence' or evil intent to start a nuclear war
Современные ИИ-системы способны спровоцировать ядерный конфликт, даже если люди формально сохраняют контроль. Они усиливают когнитивные искажения, ускоряют спирали эскалации и заваливают руководителей информацией в кризисных ситуациях. Эксперимент с участием почти 3000 американцев показал: поддержка ядерного удара почти не меняется при росте числа жертв с 100 тысяч до 2 миллионов — срабатывает «психическое онемение». Автор призывает создать институциональные ограничители, защищающие лидеров от их худших импульсов, и использовать ИИ только как подчинённый инструмент.
ИИ не обязательно запускать оружие, рекомендовать удар или намереваться причинить вред. Обычной человеческой погрешимости — усиленной машинами — может быть достаточно, чтобы привести к катастрофе.
- seba_dos1
Людям он тоже не нужен.
- OutOfHere
ИИ не может запустить ядерные бомбы, если у него нет кодов запуска, так что не давайте их ему.
- bamboozled
Лучший способ решить эту проблему — просто избавиться от ядерных бомб. Понимаю, что это почти невыполнимая задача, но, блин, мы сидим на буквально бомбе замедленного действия.