Claude провёл аудит сценария захвата мира ИИ: «роботы-убийцы» провалили проверку
The AI Takeover Checklist: A Devil's Advocate Audit
Автор попросил Claude составить чек-лист для захвата мира и уничтожения человечества, а затем опубликовал ответ без правок. Аудит показывает: когнитивный слой развивается быстро, но физическая инфраструктура — производство чипов, энергетика, робототехника и цепочки поставок — застряли на нуле. Вывод: сценарий «восстания машин» не проходит собственную проверку, поскольку интеллект — дешёвый ресурс, а без людей некому чинить оборудование. Реальные риски — злоупотребление людьми и концентрация власти — уже здесь.
Пока физическая автономия не достигнет ~100% — сейчас ~0% — убийство людей это самоубийство машины с дополнительными шагами.
- no_multitudes
Я рад, что Claude сказал тебе, что это не опасно. Однако другие люди не хотят читать вывод твоей LLM. Пожалуйста, уважай чужое время и делись только тем, что написал сам.
- frankest
Модель не захватит мир, но люди, использующие модель, certainly попытаются. Список, который ты упускаешь: 1) биологическое оружие, улучшенное или созданное с помощью LLM, включая вирусы, которые могли бы выкосить пожилых и больных людей из стран, которым не нравится покрывать расходы на здравоохранение пожилых. 2) Плохой совет, уверенно данный кому-то, кто затем начинает его реализовывать (от вирусов на инфраструктуре до неурожая из-за импортированных или генетически модифицированных культур, до законов и правил, которые навязывают ИИ-сложность правительству так, что её нельзя удалить, и она становится критической зависимостью.) Жадность и злоба здесь недооценивать нельзя.
- Arainach
Не просто публикуй сырой вывод LLM. Если бы кому-то это было нужно, они могли бы сами спросить LLM.
https://distantprovince.by/posts/its-rude-to-show-ai-output-...