Anthropic раскрыла, как хакеры использовали Claude для кибершпионажа
Detecting and countering misuse of AI: September 2026
Anthropic опубликовала отчет о противодействии злоупотреблению AI за период с декабря 2025 по август 2026 года. За восемь месяцев команда Threat Intelligence выявила и пресекла операции, в которых злоумышленники применяли модели Claude Haiku, Sonnet и Opus для кибератак, слежки, мошенничества и влияния. Среди угроз — предполагаемые государственные группы, коммерческие поставщики шпионского ПО и финансово мотивированные преступники. Anthropic описывает, как AI-агенты автоматизировали разведку, эксплуатацию и эксфильтрацию данных, и подчеркивает необходимость коллективной защиты.
За последние шесть месяцев наша команда Threat Intelligence выявила и пресекла серию киберопераций, в которых злоумышленники использовали Claude.
- tedsanders
Мета: Потенциальное распространение биологического оружия — это серьёзно. Миллионы могут погибнуть. Легко шутить, пока это не случилось, но попробуйте представить, как эта ветка выглядела бы после успешного применения биологического оружия государством-изгоем или негосударственным субъектом. Призываю вас отнестись к этой теме серьёзно и публиковать посты, которые добавляют новую информацию или перспективы в обсуждение.
(Я сам считаю, что вероятность атаки с использованием биооружия остаётся низкой и пока не была серьёзно ускорена LLM, но это абсолютно то, на что миру следует обратить внимание.)
- m-hodges
> Мы обнаружили, что Moonshot AI, компания, выпускающая семейство моделей Kimi, молча пересылала запросы клиентов в Claude вместо того, чтобы обрабатывать их с помощью Kimi. Затем Moonshot показывала пользователям ответы Claude. Эти пользователи думали, что используют модель Kimi, но вместо этого получали ответы от Claude.
> DeepSeek также молча перенаправлял обмены в Claude, не информируя клиентов DeepSeek.
> MiniMax построила собственную прокси-сетевую службу через подставную компанию. Эта подставная компания не имеет очевидных связей с MiniMax и не раскрывает свои отношения с материнской компанией. Эта прокси-сетевая служба предоставляет доступ только к моделям, разработанным Anthropic и OpenAI. Служба не предоставляет доступ ни к каким китайским моделям, включая собственную модель Minimax.
- hnburnsy
Ну и двойные стандарты тут...
Обычные вооружения
-Мы выявили ячейку угроз, базирующуюся на севере Йемена
-Мы выявили угрозу, базирующуюся в Китае, которая использовала Claude
-Мы выявили вероятных фрилансеров-угроз, базирующихся в России
-Мы выявили действующего лица из Китая, который использовал чат Claude
-В этом случае действующее лицо из России использовало Claude
-Мы выявили угрозу, базирующуюся в Китае, которая использовала Claude
Биологическое злоупотребление
Мы не раскрываем названия исследовательских учреждений, стран, где происходила деятельность, и конкретных биологических агентов или исследовательских методов. Люди, упомянутые в этих примерах, — работающие учёные. Мы не утверждаем, что они намеревались причинить вред, и их идентификация или идентификация их лабораторий может подвергнуть их опасности.
- oidar
Это также блокирует мою возможность говорить об Эмили Дикинсон на других языках/алфавитах. По-видимому, стихотворение «Because I could not stop for Death» слишком опасно.
- nhinck2
> Незаконная дистилляция
Серьёзно... что делает её незаконной?
- The_Blade
Встроенная ссылка на страницу с отчётом на мгновение была Slashdotted (йеееессс), но вот сам отчёт напрямую:
https://www-cdn.anthropic.com/e50be2e51e7695dc4b1366a37a245a...
- bix6
Мне ужасно интересно, как они мониторят пользователей. Вот тот человек на днях, который рассказывал, как Claude помогает с его торрент-стеком, — Anthropic сообщит на него за нарушение закона?
- Sol-
Признаюсь, я спросил Fable о митохондриях.