Джихад Батлера: как человечество в «Дюне» уничтожило все разумные машины
Butlerian Jihad
Джихад Батлера, он же Великое восстание, — крестовый поход против компьютеров, мыслящих машин и сознательных роботов, длившийся с 201 года до 108 года до эпохи Гильдии. После двух поколений насилия человечество полностью истребило созданный им же искусственный разум и приняло заповедь из Orange Catholic Bible: «Не сотвори машину по образу и подобию человеческого разума». Простейшие калькуляторы оказались под запретом вплоть до смертной казни, а на месте утраченных технологий возникли ордена ментатов, Bene Gesserit и Гильдии. Статья Dune Wiki разбирает последствия этого переворота и упоминания о возможном новом джихаде при Leto Atreides II.
Наш джихад — это «программа сброса». Мы сбрасываем то, что разрушает нас как людей!
- twowaway
Лучший разбор ИИ во вселенной «Дюны», который я когда-либо встречал, безусловно, принадлежит Тимоти О'Райли (да, тому самому О'Райли):
- tarpitt
Моя любимая цитата из «Дюны»:
Величие — преходящий опыт. Оно никогда не бывает постоянным. Оно зависит отчасти от мифотворческого воображения человечества. Человек, испытывающий величие, должен чувствовать миф, в котором он находится. Он должен отражать то, что на него проецируют. И у него должно быть сильное чувство сардонического. Именно это отрывает его от веры в собственные притязания. Сардоническое — это всё, что позволяет ему двигаться внутри себя. Без этого качества даже случайное величие уничтожит человека.
- cautiouscat
Что мне кажется интересным в мыслящих машинах «Дюны», так это то, что во многих научно-фантастических произведениях именно искусственный интеллект решает уничтожить человечество. В «Дюне» люди, управляющие машинами (технократы), — это те, кто близок к уничтожению человечества. Джихад был борьбой против них в той же мере, что и против самих машин.
Так что в каком-то смысле мы скорее увидим «дюновскую» версию «захвата машин миром/вселенной», чем, скажем, терминаторовскую, хотя многие шутят, что ChatGPT/Claude — это Скайнет.
- antihipocrat
В конце страницы есть такой абзац:
Ещё одно, более тонкое обоснование Батлерианского джихада также встречается в оригинальных романах Фрэнка Герберта, а именно тезис Хайдеггера о том, что использование технологий приучает людей мыслить как машины. Проблема в том, что машины детерминированы; таким образом, обучение людей быть машинами самоограничительно.
Интересно, счёл бы Хайдеггер вероятностную природу LLM положительно влияющей на человеческое мышление.
- bumbledraven
Герберт, похоже, считал, что быть человеком — значит быть по сути «открытым», способным к неоткрытой, недетерминированной эволюции, как лично, так и как вид.
Именно так.
- randomImmigrant
Мне действительно интересно, куда движется эволюция человеческого мозга при повсеместном использовании ИИ.
Ранние данные неутешительны, но я верю, что при целенаправленной и продуманной тренировке наш мозг способен на гораздо большее, чем мы сейчас думаем.
- ks2048
В книге — это люди против машин? Потому что в нашем мире совершенно ясно, что это будет люди+машины против людей (вероятно, тоже + некоторые машины)
- mentalgear
> Это превратило создателей этих машин в новый технократический класс, фактически контролирующий миры простых людей.
Технофашисты сегодняшнего дня. Мы уже там.
Также цитата из первого романа «Дюны»:
> Когда-то люди передали своё мышление машинам в надежде, что это освободит их. Но это лишь позволило другим людям с машинами поработить их.