Эмад Мостак: «Мы должны исходить из того, что интернет отключится в ближайшие годы»
"We Have to Assume That the Internet Will Go Offline in the Next Few Years"
Основатель Stability AI и CEO Intelligent Internet Эмад Мостак выступил на конференции TechBBQ в Копенгагене с тревожным прогнозом: инфраструктура интернета «держится на палочках», и его отключение в ближайшие годы неизбежно. Он предупреждает о растущей угрозе со стороны ИИ-агентов, способных взламывать системы, и о предвзятости моделей, ставящих жизни американцев выше жизней других национальностей. Мостак также обсуждает экономические последствия ИИ, роботов за $1.50 в час и необходимость пересмотра прав ИИ-систем.
Мы должны исходить из того, что интернет отключится в ближайшие годы. Может, это и к лучшему.
- grubbs
Забавно — я как раз сегодня утром читал о создателе Ethernet (Роберте Меткалфе):
В 1995 году Меткалф утверждал, что Интернет потерпит «катастрофический коллапс» в следующем году; он пообещал съесть свои слова, если этого не произойдет. Во время своей программной речи на шестой Международной конференции по Всемирной паутине в 1997 году он взял распечатанную копию своей колонки, предсказывающей коллапс, положил ее в блендер с жидкостью и затем употребил получившуюся массу.[26][27] Он предлагал напечатать свои слова на очень большом торте, но публика не приняла такую форму «поедания своих слов».[28]
- comicjk
«Hugging Face защищался с помощью открытой китайской модели GLM, потому что у них не было доступа к высококлассным моделям кибербезопасности на другой стороне. Они слишком опасны».
Это не то, что произошло. HuggingFace закрыл уязвимости обычным способом, а затем использовал GLM для части криминалистического анализа. В интересах HF продвигать историю с GLM, потому что это подчеркивает их роль в ситуации, а также открытые модели, которые они распространяют. Но GLM была (полезной) частью посмертного разбора, а не защиты.
- jmogly
Я наблюдал, как мой 75-летний сантехник (который в первый день во Вьетнаме снял снайпером одного типа), стоя на коленях на двух балках шириной 3 дюйма, просверлил отверстие диаметром 4 дюйма под углом 89 градусов через эти балки. Где робот, который делает все это?
Помимо всего прочего пессимистичного бреда в этой статье, я считаю риторику о замене рабочих мест самой оскорбительной. Это всегда люди, настолько оторванные от реальности труда, люди, чья единственная «работа» заключалась в том, чтобы по сути иметь идеи и мнения.
- blfr
Я не вижу причин для отключения Интернета, кроме различных политических блоков, разделяющих его на части. Так что: Китай, Россия, ЕС имеют свою собственную сеть? Да, возможно. Супер-ИИ, уничтожающий Интернет: нет.
На самом деле, чем больше я использую ИИ (вчера передал sudo Клоду на моей ИИ-машине для разработки), тем больше я вижу в нем довольно хорошего и, безусловно, неутомимого сисадмина. Глядя на то, что люди делают с ИИ, подключая его к недокументированным аппаратным интерфейсам и получая рабочие настройки, Интернет будет в порядке.
Вся статья — просто сборник различных страхов по поводу ИИ без особой связи с тем, что происходит. Возможно, резюме не отдает должное тому, что было сказано.
- EgregiousCube
«Суверенитет — это способность сопротивляться власти, применяемой к тебе» — довольно убедительное определение. Думая о том, какую форму примет эта власть, когда LLM будут разрабатывать кастомные эксплойты быстрее, чем наши существующие процессы смогут их патчить, мне кажется, что наши текущие лучшие практики безопасности могут оказаться бесполезными или даже активным риском сами по себе.
Наши ответственное раскрытие, цикл информации о CVE, ритм патчей, эшелонированная защита и т.д. и т.п. — вся эта экосистема настроена на мир, где существует относительно небольшое количество плохих 0day, и стоимость таких 0day достаточно высока. Мы можем развивать наши подходы к угрозам, но наши модели прочитали всю лучшую литературу о том, как это делалось раньше. Думаю, есть разрыв для тех, кто слишком мал, чтобы получить доступ к «хорошим моделям безопасности» — урезанные закрытые модели и открытые модели, похоже, не смогут адаптироваться, если этот разрыв не будет устранен.