OpenAI, 적대적 증류 공격 성공률 54%에서 0.2%로 낮췄다

Combatting Adversarial Distillation

OpenAI가 GPT-6.2 Astra와 Sol에 강화된 방어책을 적용해, 이전 요청의 보호된 추론을 추출하는 적대적 공격 성공률을 54.0%에서 0.2%로 떨어뜨렸다. 적대적 증류는 타사가 프론트티어 모델의 출력으로 안전장치 없는 모델을 학습시키는 행위로, 사이버·생물학 등 이중용도 영역에서 위험하다. OpenAI는 요청 단위 분류기·API 보호와 캠페인 단위 계정 조사·제재를 병행하고, DeepSeek과 Moonshot AI 관련 캠페인을 적발했다고 밝혔다.

평균 공격 성공률은 기존 안전장치가 적용된 GPT‑6 Astra의 54.0%에서 업데이트된 안전장치가 적용된 GPT‑6.2 Astra의 0.2%로 떨어졌다.
  1. WiSaGaN

    이 회사 이름이 OpenAI인데 이런 걸 내놓는다는 게 그저 안타깝네요. 당신들은 모든 모델을 학습시키면서 작가, 코더, 감독, 수학자들에게 아무것도 돌려주지 않았어요. 그리고 그들의 일자리를 빼앗고 있죠. 마지막으로는 이런 모델을 당신들만 갖도록 확실히 하고 싶어 하네요. 당신들은 인류 역사에서 좋게 평가되지 않을 겁니다.

  2. aenis

    만약 그 기술들이 성공적이라면, 범죄율 높은 동네에서 귀중품을 금고에 넣어두는 것과 같은 효과를 낼 거라고 예상합니다. 어느새 누군가 당신 머리에 총을 들이대고 금고 열쇠를 요구하겠죠. 국가 후원 단체가 어떤 선도 모델의 가중치를 완전히 범죄적인 방식으로 빼내는 건 시간문제일 뿐입니다. 그 회사들이 그걸 잘 알고 있기를 바라겠지만, 범죄자들은 한 번만 성공하면 되고, 그 인센티브는 수십억 달러 규모입니다.

  3. bob1029

    증류는 여러 형태로 존재합니다.

    가정적으로 나는 그들의 블랙박스 주위에 블랙박스를 두르고 일상적인 비즈니스의 일부로 입출력되는 모든 토큰을 기록할 수 있습니다. 이는 엄청난 양의 데이터가 될 수 있습니다. 나는 이 데이터를 사용해 내 모델을 학습시킬 수 있습니다. 누가 이걸 어떻게 탐지할 수 있을까요? 추론 토큰은 해자(moat)의 일부일 뿐입니다.

  4. pacificmaelstrm

    "생명은 길을 찾는다" - 쥬라기 공원

  5. samrus

    위선자들

이 날의 다른 글

2026-11-20