Вредоносное ПО использует LLM, чтобы оценивать жертв по их ценности
Malware uses LLMs to rank victims by how much they're worth
Исследователи из Talos обнаружили VOLTA — зрелый Windows-стилер, который после кражи паролей, сессий и криптокошельков отправляет собранные данные в OpenRouter с системным промптом, требующим от модели составить досье на жертву с разделом «WHAT THEY'RE WORTH» и ранжированием активов по уровню монетизации. Модель работает как аналитик оператора, превращая сырой лог в приоритизированный отчёт. При отказе модели малварь переключается на цепочку из трёх моделей.
Вопрос для защитников не в том, появится ли этот паттерн где-то ещё, а в том, какой этап он затронет следующим.
- akersten
Вот такие вещи не дают мне спать по ночам. Claude, ArtCraft, куча других инструментов с автоскачиванием вносят десятки тысяч изменений кода в месяц. Если одно скомпрометированное обновление протащит такого парня, то это, считай, конец игры. Окна возможностей для подобной атаки, похоже, расширяются тем быстрее, чем активнее мы «разрабатываем» софт.
Мне хочется завести штук пять отдельных компьютеров:
- один только для банкинга
- один только для разработки
- один только для веб-сёрфинга
- один только для игр
- один только для соцсетей
Как ещё можно оставаться в безопасности перед угрозой, которая за 10 секунд выкачивает всю твою цифровую жизнь?
- jumploops
Я думаю о том, что мы всё ещё на ранних стадиях агентов, похоже на ранние дни интернета, когда мы с радостью открывали свои машины и запускали новые протоколы.
Скоро (уже сейчас?) угрозы станут ещё сложнее, и мы вернёмся к вирусным штормам начала 2000-х.
- mullingitover
Неужели мы в итоге придём к гонке вооружений, где наши локальные записи будут защитно пересыпаны prompt injection / отравлением агентов / tank_man.jpg?
- goatsi
Странный выбор — запускать это на машине жертвы (раскрывая ключ open router), а не на инфраструктуре атакующего. Полагаю, это позволяет им сохранить всё предельно просто для покупателей: нужно лишь выбрать Telegram-канал, куда будут сбрасываться логи.
- steve1977
Ха, наконец-то то, что я беден, окупается!
- riskable
Как мило! Обкрадывайте богатых, а не бедных.
И наоборот, не связывайтесь с бедными!
Теперь нам нужен просто правильный малварь в стиле Робин Гуда, который «уравнивает шансы», так сказать, обкрадывая богатых и переводя эти деньги на счета бедных (которые тоже взломаны).
- jruohonen
Если проследить за постами здесь, предупреждения от различных организаций были уже два-три года назад, но, похоже, сейчас этот разрыв сокращается. (На самом деле, интересно, почему это заняло так много времени.)
- markstos
После ранжирования жертвам можно назначить пропорциональный бюджет токенов, так что высокоценная жертва может быть атакована zero-day или дипфейками, которые дороже в исполнении, но прошли желаемый порог стоимость/выгода.