Возможные будущие: от Батлерианского джихада до Сингулярности

Possible Futures

Возможные будущие: от Батлерианского джихада до Сингулярности

Эссе Фернандо Борретти раскладывает будущее ИИ на сценарии: от «дум» из-за злоупотреблений и классического бумажного максимизатора до Батлерианского джихада, вечной комплементарности, перманентного андеркласса, Сингулярности, мира всеобщего сдерживания и концентрации власти. Автор задаётся вопросами: достигнем ли мы ASI, решим ли проблему выравнивания, насколько фатален провал и сколько ASI будет существовать. Каждый сценарий описан с иронией и ссылками на научную фантастику.

Будущее — это очень долгое время: эра звёзд продлится как минимум 100 триллионов лет. Может быть, сингулярность сначала выровнена, но за миллионы или миллиарды лет роста и самомодификации выравнивание дрейфует (предсказуемое возражение LessWrong здесь было бы: «очевидно, ASI будет достаточно умна, чтобы предотвратить это», потому что ASI — это магия).

Ещё за этот день

2026-11-14