Одна отставка превратила тлеющий страх перед ИИ в лесной пожар
One resignation turned the embers of AI fear into a wildfire
В статье анализируется, как уход исследователя Jacob Coxon из-за рисков безопасности ИИ вызвал неожиданно широкий резонанс. Автор связывает это с возросшей напряжённостью вокруг ИИ, ролью страха и скоординированной медийной кампанией. Рассматриваются шесть ключевых фактов: реальные риски ИИ, искренность Coxon, оторванность сотрудников передовых лабораторий, медийная координация, сомнительность гипотезы рекурсивного самосовершенствования и недостаточная безопасность инфраструктуры. Автор предупреждает, что этот эпизод смещает допустимые взгляды к крайностям и вредит экосистеме ИИ.
Страх продаётся. Страх — это самая простая история, от которой люди не могут отвести взгляд.
- qurren
Я AI-инженер, чувствую примерно то же самое.
Мне также кажется, что нужно как можно скорее сколотить состояние уровня пенсионного, пока всё это не рухнуло, а потом уехать куда-нибудь подальше от этого бардака.
Единственный хороший способ для меня это сделать — продолжать работать в AI, потому что больше нигде мои навыки столько не оплачиваются.
- mcast
Выглядит крайне подозрительно, когда компания, извлекающая выгоду из регуляторного захвата, искусственно раздувает страхи перед AI и пропаганду о нём.
- enyone
Рост цен на энергию из-за растущего энергопотребления AI-дата-центров и расточительное использование чистой воды для их охлаждения — это МЕНЬШЕЕ из моих беспокойств насчёт AI.
Меня беспокоит масштаб ущерба, когда он случится.
Например, раньше, если кто-то хотел прослушать чей-то телефон, нужно было соотношение 1:1 по числу людей: один поддерживал разговор, другой его расшифровывал. Потом ещё несколько человек, чтобы интерпретировать эту расшифровку и сделать выводы, может, даже решения о том, что делать дальше. Это не та реальность, в которой мы живём сегодня. Сегодняшние масштабы обработки и хранения данных дают соотношение 1:8298979488 (AI:все остальные). Я не хочу, чтобы у нас когда-нибудь появилось принятие решений AI по этим расшифровкам с таким же соотношением. Такая возможность, похоже, явно скоро появится.
Другой пример: раньше, если кто-то хотел копаться в уязвимой системе, нужно было соотношение 1:1 по числу людей — один человек имел время копаться в одной системе за раз. Не хочу знать, сколько критических и уязвимых систем работает сегодня на этой планете, подключённых к той же сети, в которой запускаются эти AI-агенты. Да, со временем можно использовать AI, чтобы находить и латать эти уязвимости, но проблема здесь — масштаб и скорость нанесения вреда (эксплуатация всех систем сразу).
- kidder
Я слышал многие аргументы AI-думеров, включая «Суперинтеллект» Бострома.
Но мне всё ещё трудно воспринимать их всерьёз. Эти аргументы начинаются с разумных допущений, а затем экстраполируются до безумия. Современные LLM мощны и могут использоваться опасно. Разумно принять несколько бурных лет перемен. Но я не вижу, как они разумно могут привести к гибели цивилизации.
Думеры в AI-индустрии слишком тревожны? Или я что-то упускаю?
- neom
«Суперинтеллект» Бострома вышел в 2014 году, рекомендую прочитать; в то время я думал, что это одна из лучших научно-фантастических книг, которые я когда-либо читал, и не думал, что это станет публичной дискуссией при моей жизни. Что мне кажется интересным, так это то, что уважаемые/знающие люди уже несколько лет говорят об этом по телевизору/в мейнстримных медиа, Джек Кларк несколько раз выступал перед Конгрессом. Что изменилось в этом конкретном послании, что сделало его таким захватывающим? Моя младшая сестра написала мне вчера вечером и спросила: «AI действительно может нас всех убить? Почему мы просто не можем его отключить?». Интересные времена....!