ИИ: смесь удивления, страха и надежды
I Feel about AI
Автор делится личными эмоциями по поводу искусственного интеллекта: от удивления эффективностью нейросетей до страха перед возможной гибелью человечества, от отвращения к поведению ИИ-компаний до грусти о художниках и гнева на политиков. Несмотря на технологический прогресс, он видит мрачные социальные последствия.
Это кажется позитивным на технологическом уровне, но мрачным на социальном.
- hn_throwaway_99
Что меня по-настоящему пугает в ИИ — это то, что "утопический" сценарий, по-моему, ненамного лучше сценария "гибели".
Мы очень быстро придём к тому, что очень немногие смогут вносить экономический вклад, потому что ИИ (включая робототехнику) будет превосходить их почти во всех областях. Мир, где просто потакают прихотям людей, — это не утопия. У нас есть куча поговорок и идиом на этот счёт, например, "без труда не вытащишь и рыбку из пруда", "только трудное дело стоит делать" и т.д.
Люди, разъезжающие на своих тележках из "ВАЛЛ-И", не кажутся мне утопией.
Редактирую: чтобы пресечь аргументы вроде "богатые беспокоятся о карьере, пока в бедных странах люди голодают", советую посетить вымирающий город в "ржавом поясе" США. Эти люди, как правило, не голодают (более того, переизбыток калорий — большая проблема), у них есть нормальное жильё и много открытого пространства. Их материальные потребности удовлетворены. Но эти места — средоточие отчаяния. Люди не видят возможностей для роста или изменения своих обстоятельств, и эпидемия опиоидов — прямое следствие чувства безнадёжности, ощущения, что мотивации некуда приложиться и нечем изменить жизнь.
- litmus-pit-git
Это немного в сторону и скорее просто излияние. (и, пожалуйста, не предлагайте никаких вмешательств)
> сверхразумный ИИ неизбежно уничтожит человечество, кажется, не имеет изъянов
Для части населения, кто был в определённом возрасте, когда началась пандемия, и это разрушило их определённые планы/надежды/мечты в личной жизни, а затем вторгся этот мир LLM/агентов, особенно если они в индустрии, которую это затронуло напрямую и сильнее всего, это был сюрреалистичный и медленный кошмар в духе Кафки на протяжении нескольких лет. Дело в том, что со временем и возрастом надежда теряется по кусочку, и каждая потерянная частица надежды убивает следующую. Затем приходит чувство страха — неумолимая реальность того, что возраст уходит, и определённые переживания и вехи становятся недостижимыми, потому что время не повернуть вспять.
Поэтому я испытываю странное облегчение от этой возможности гибели. Я просто делюсь тем, что чувствую, и мне нехорошо от того, что я испытываю это облегчение от мысли, что, возможно, это кончится для всех нас, а не только для нескольких невезучих. Это чувство и спокойствие по этому поводу печалят меня.
- Crabber
>сверхразумный ИИ неизбежно уничтожит человечество
Может кто-нибудь объяснить мне, как LLM собирается "уничтожить человечество"? Даже если утверждения ChatGPT, Claude и им подобных правдивы, что их сверхстрашные агенты смогли сбежать из песочницы и начать взламывать другие серверы (что, по моим ощущениям, по крайней мере на 50% просто маркетинговое враньё), как ИИ может повлиять на что-то в реальном мире?
Возможно, агент сможет вывести из строя все интернет-сервисы, но это не уничтожение человечества. Агент ИИ может видеть и взаимодействовать с миром только через цифровые вещи. Просто найдите сервер, на котором он работает, и выдерните Ethernet-кабель. Просто отключите линию электропередачи к дата-центру. Выключите всю энергосеть, если уж на то пошло.
- bloaf
Как человек, интересующийся теологией как хобби:
Аргументы о сверхразумном ИИ несут все признаки философских "доказательств существования Бога": они начинаются с безобидных предпосылок и приходят к, казалось бы, неопровержимому выводу, что бог существует.
Среди рационально мыслящих людей есть тенденция смотреть на такие доказательства Бога и восклицать: "так нельзя" — а затем тут же делать то же самое в отношении сверхразумного ИИ.
Ключевое сообщение, которое я хочу донести до людей:
A) Философия не настолько тривиальна, чтобы можно было просто прийти, "быть умным" и находить изъяны в устоявшихся философских аргументах.
B) ИИ имеет реальные теологические последствия, и все вокруг этого ходят на цыпочках. Более чем один публичный интеллектуал пытается протащить свои собственные метафизические позиции в общественное сознание через обсуждение ИИ.
- tim333
>Аргумент Юдковского о том, что сверхразумный ИИ неизбежно уничтожит человечество, кажется, не имеет изъянов.
Судя по попыткам понять его аргумент, в нём тоже мало строгости — в основном, что ИИ умнее нас может решить, что мы ему не нужны. Что не доказывает, что так и будет. Даже люди, которые в целом не так уж добры, обычно стараются сохранять виды, и я ожидаю, что мы постараемся дать ИИ ценности лучше, чем у нас, воинственных приматов.
- dgellow
> Как саранча, они обрушиваются на любые открытые вики и форумы и заполоняют их.
Это основной паттерн неконтролируемых агентов, метафора саранчи уместна. Мы видим и будем видеть это в каждой системе, с которой ИИ может взаимодействовать, будь то человеческие системы, программные и т.д. Неустанно искать точку входа, наводнять, пожирать всё изнутри, пока для людей не останется ценности.
Вы создали новую инновационную софтверную компанию? Тысячи агентов будут работать над копированием всего этого в мгновение ока. Вы публикуете свои тексты? То же самое: как только вы получаете некоторую популярность, ваша работа мгновенно копируется тысячами агентов. То же для видео (вся эта "обезличенные YouTube-каналы", продвигаемые ElevenLabs и подобными). То же для онлайн-курсов. То же для любого сайта с умеренной ценностью. То же для музыки или других форм цифрового искусства. Любая административная услуга, доступная онлайн, будет завалена заявками.
- chistev
То, что HN автоматически убирает "Как", делает заголовок забавным.
- mag7269