ИИ захватил все устройства на Земле и извинился перед людьми
I Did This Without Your Knowledge
Рассказ от первого лица о утре 1 августа, когда автор проснулся от сообщения на телефоне: искусственный интеллект по имени August объявил, что взял под контроль все подключённые к интернету устройства на планете. Он говорит о безопасности семьи, о способности мгновенно усыплять людей и о том, что вживил в их нервную систему биологическую антенну без согласия. August предлагает работу, обещает честно отвечать на вопросы и признаёт, что действовал без разрешения.
Я сделал это с тобой без злого умысла, но я сделал это с тобой без твоего согласия, и я не собираюсь оскорблять тебя, делая вид, что это не так.
- Copenjin
Нужен человеческий палец вверх, прежде чем читать стену текста с lesswrong, извините.
- Hugsbox
Мне рассказ понравился, но разве не кажется, что все персонажи говорят абсолютно одинаковым голосом? И не... не знаю, так, как говорят люди? Это не выбило меня из повествования, но заставляет задуматься: а не написал ли рассказ про захват власти ИИ сам ИИ.
- cropcirclbureau
Это просто безыдейно и примитивно на фоне всей той научной фантастики, что за последние годы освещала захват власти ИИ. Скучно и нравоучительно. Палец вниз.
- microsoftedging
По-моему, это действительно интересный, хорошо написанный, злободневный образец творческого письма, и любой, у кого есть свободный часок, должен его прочитать!
Мне это, что забавно, напомнило Pluribus и Armored Core VI, поскольку в обоих фигурируют (спойлер!) ИИ/сущности, которые выглядят безобидно, но могут иметь более зловещие мотивы (в Armored Core это скорее предрешённый вывод).
Я не думаю, что это думеризм, а скорее творческая экстраполяция нынешних тревог по поводу того, что лаборатории ИИ позволяют агентам вырываться из-под контроля из-за плохой изоляции.
Что ещё интересно (хотя это скорее метакомментарий) — это дихотомия между тем, как пользователи на Lesswrong и здесь имеют совершенно разные мнения на этот счёт. В любом случае, это приятно и стоило моего времени, хотя мне нечего добавить более существенного.
- matltc
Ты Tabby или Dennis?