Anthropic, 8개월간 AI 악용 작전 7건 적발·차단
Detecting and countering misuse of AI: September 2026
Anthropic의 위협 인텔리전스 팀이 2025년 12월부터 2026년 8월까지 Claude를 악용한 사이버 공격, 감시, 영향력 공작, 사기, 생물학적 오용, 재래식 무기 개발, 불법 증류 등 7개 분야의 작전을 적발하고 차단했다. 국가 지원 해킹 그룹, 상업 스파이웨어 업체, 금전적 동기 범죄자 등이 연루됐으며, AI가 공격의 정교함보다 속도와 규모를 높이는 핵심 동력으로 작용했다. 특히 러시아 연계 그룹 GTG-20006은 AI 에이전트로 악성코드를 자동 재빌드하고 피싱 인프라를 구축하는 등 공격 자동화를 입증했다.
정교한 공격에 더 이상 정교한 공격자가 필요하지 않다.
HN 토론
184- tedsanders
메타: 생물무기의 잠재적 확산은 심각한 문제입니다. 수백만 명이 죽을 수도 있습니다. 일어나기 전에는 농담하기 쉽지만, 불량 국가나 비국가 행위자가 생물무기를 성공적으로 사용한 후 이 스레드가 어떻게 보일지 상상해 보세요. 이 주제를 진지하게 받아들이고 토론에 새로운 정보나 관점을 더하는 글을 기고해 주시길 권합니다.
(저는 생물무기 공격 가능성이 여전히 낮다고 생각하며 LLM 때문에 아직 심각하게 가속되지는 않았다고 봅니다. 하지만 이건 세계가 반드시 주목해야 할 일입니다.)
- m-hodges
> Kimi 모델 패밀리를 만드는 회사인 Moonshot AI가 고객 요청을 Kimi로 처리하지 않고 몰래 Claude로 전달한 사실을 발견했습니다. Moonshot은 그런 다음 Claude의 응답을 사용자에게 보여주었습니다. 이 사용자들은 Kimi 모델을 쓰고 있다고 생각했지만 대신 Claude의 응답을 받았습니다.
> DeepSeek도 DeepSeek 고객에게 알리지 않고 교환 내용을 Claude로 몰래 전달했습니다.
> MiniMax는 껍데기 회사를 통해 자체 프록시 네트워크 서비스를 구축했습니다. 이 껍데기 회사는 MiniMax와 명백한 연관성이 없으며 모회사와의 관계를 공개하지 않습니다. 이 껍데기 프록시 네트워크 서비스는 Anthropic과 OpenAI가 개발한 모델에 대한 접근만 제공합니다. Minimax 자체 모델을 포함해 어떤 중국 모델에 대한 접근도 제공하지 않습니다.
- hnburnsy
이중 잣대가 정말 심하네요...
재래식 무기
-예멘 북부에 근거지를 둔 위협 행위자 세포를 확인했습니다
-Claude를 사용한 중국 기반 위협 행위자를 확인했습니다
-러시아 기반의 프리랜서 위협 행위자로 보이는 이들을 확인했습니다
-Claude의 채팅을 사용한 중국 기반 행위자를 확인했습니다
-이 경우 러시아 기반 행위자가 Claude를 사용했습니다
-Claude를 사용한 중국 기반 위협 행위자를 확인했습니다
생물학적 오용
우리는 연구 기관의 이름, 해당 활동이 일어난 국가, 관련된 특정 생물학적 작용제나 연구 기법을 밝히지 않고 있습니다. 이 사례 연구에 연루된 개인들은 현직 과학자들입니다. 우리는 그들이 해를 끼칠 의도가 있었다고 주장하지 않으며, 그들이나 그들의 실험실을 특정하면 해를 입을 수 있습니다.
- nhinck2
> 불법 증류
정말요... 뭐가 불법인가요?
- oidar
또한 다른 언어/문자로 Emily Dickinson에 대해 이야기하는 제 능력도 차단합니다. 분명히 시 "Because I could not stop for Death"는 너무 위험한가 봅니다.
- The_Blade
보고서 페이지로 가는 인라인 링크가 잠시 Slashdot 효과를 냈지만(예에에에), 여기 지금 바로 보고서가 있습니다:
https://www-cdn.anthropic.com/e50be2e51e7695dc4b1366a37a245a...
- bix6
그들이 사용자를 어떻게 모니터링하는지 정말 궁금합니다. 예를 들어 요전에 Claude가 토렌트 스택을 돕는다고 말한 사람 같은 경우, Anthropic이 그를 법 위반으로 신고할까요?
- Sol-
고백하건대 저는 Fable에게 미토콘드리아에 대해 물어봤습니다.