У нас есть год, чтобы исправить безопасность повсюду

> 22 сентября Apple выпускает Mac Studio с чипом M5 и 256 ГБ унифицированной памяти [..] этого, вероятно, [..] хватит, чтобы написать этот фрагмент кода за 3 секунды

Автор, очевидно, никогда не запускал LLM на Mac! За 3 секунды он, возможно, только начал думать о том, чтобы запланировать встречу для обсуждения сроков обработки второго токена из вашего запроса.

Zzzzz, надо было заняться безопасностью ещё несколько десятилетий назад. Но безопасность стоит денег и не является яркой фичей для привлечения новых клиентов, а если ты «настоящий» бизнес, производящий товары или оказывающий услуги, она съедает твою маржу. Или что там думали лица, принимающие решения в Берлине, когда игнорировали безопасность.

Да, взломы всё равно были бы, но их было бы меньше, если бы безопасность не была опциональной.

Возможно, ажиотаж вокруг ИИ поможет: заставит больше лиц, принимающих решения, воспринимать безопасность как императив и даст нам ещё один мощный инструмент в наш арсенал.

Прим.: я работаю в индустрии безопасности, наши клиенты, разумеется, хотят повысить свою безопасность. Мы наблюдаем рост осведомлённости, но в основном это заслуга NIS2 и других законодательных инициатив. Они вынуждают их что-то делать. ИИ для многих из них — лишь тема для светской беседы.

Вот идея: на первом шаге упростите всё и убедитесь, что вы понимаете, как работает ваш стек и что он импортирует.

Например: WordPress — ужасная вещь, но ядро прошло через столько испытаний, что оно на удивление безопасно. Затем подключаются плагины и темы — и вуаля, безопасность испарилась.

Нам нужен новый KISS: keep it simple, stupid, secure.

Я не думаю, что у нас есть даже год. Нынешнее поколение LLM чертовски хорошо умеет находить уязвимости.

Я думаю, у нас меньше времени, и единственное оставшееся ограничение — это реальная стоимость проведения таких хакерских кампаний. Это не выглядит дорогим, но и не бесплатно, и нужно просканировать ОГРОМНОЕ количество вещей на предмет уязвимостей.

Модели уже здесь, и можно арендовать GPU-кластер, чтобы выполнять такие задачи на скорости — нет нужды возиться с медленными локальными машинами. Предполагаю, можно разместить «мозги» в не вызывающем подозрений публичном облачном провайдере, а сетевой трафик прогнать через какой-нибудь ботнет, чтобы избежать блокировок — и остаётся только время и деньги.

Интересно, какие инструменты существуют для скучных легальных компаний, чтобы попытаться сделать то же самое со своими системами и найти уязвимости раньше плохих парней. Парадокс в том, что я не могу запустить снятую с ограничений китайскую модель с теми же инструментами, что используют хакеры, — но я думаю, предприятиям ПРИДЁТСЯ это сделать, чтобы иметь шанс подготовиться к натиску.

> Вероятно, для большинства людей это звучит как бессмыслица или истерическое преувеличение, поэтому вот что это значит: «GLM» — это разновидность LLM (ИИ) [...]

Пост звучит так же и для людей, понимающих технологию.

Указывать на это и пытаться объяснить непониманием — не выход из положения и не лучший ход.

__

Ред.: Поразмыслив над статьёй.

Со стороны защиты написано:

> LLM хорошо пишут патчи, но не в режиме разовых запросов.

Но это, по-моему, конфликтует с тем, что написано со стороны атаки:

> GLM 5.3-flash настолько хорош в этих задачах, что участие человека в них может быть сведено к нулю. В результате мы живём в мире, где кибератаки можно запускать в цикле for.

Так что же это? Может ли это быть настолько автономной устрашающей сущностью или нет?

Да, да, атакующим нужно выиграть лишь раз, а защищающимся — каждый раз, но дело не в этом.

1 год на усиление кибербезопасности — я тоже так думал. Проблема в том, что даже если мы это сделаем: через год модели будут настолько хороши в социальной инженерии, что смогут выудить любую информацию, какую захотят. Буду рад, если меня опровергнут на основе доказательств.

ПРИМ. РЕД.: под социальной инженерией я имею в виду, например: разведку структуры компаний, сбор и объединение данных о людях из даркнета, а затем использование их для подкупа/давления/обмана пользователей.