OpenAI, EU AI Act 대응해 텍스트 워터마킹 도입

Our approach to EU text provenance rules

OpenAI가 EU AI Act의 생성 텍스트 식별 요구에 대응해 텍스트 워터마킹 기술 textGrain을 공개했다. API 고객은 선택적으로 사용할 수 있고, EU 내 ChatGPT와 Codex 출력에는 향후 몇 주 안에 보이지 않는 워터마크가 적용된다. 워터마크는 텍스트가 짧거나 편집·번역되면 탐지율이 크게 떨어지는 한계가 있어, 탐지기는 우선 승인된 연구자와 전문 기관에만 제공된다.

워터마크는 OpenAI 시스템이 문장 일부를 생성하거나 처리했음을 알려줄 수는 있지만, 그 안에 인간의 판단, 편집, 창의성이 얼마나 들어갔는지는 알려주지 않는다.
  1. socketcluster

    이 접근 방식은 잘못된 것 같아요. 코드의 경우, Claude가 주석을 통해 워터마크를 추가한다는 게 이제 명백해요. 주석이 너무 길거든요. 저는 계속 Claude에게 주석을 제거하고 줄여달라고 요청하고 있어요.

    또한, AI의 작업 관여는 이분법적인 참/거짓이 아니라 스펙트럼이기 때문에 유용하지 않다고 생각해요. 제가 Claude에게 제 코드를 검토하고 오타를 고치고 정리해달라고 요청했는데, 사소한 수정을 할 때마다 숨겨진 워터마크가 있는 주석을 여기저기 추가하기 시작한다면, 그건 본질적으로 제 코드를 가로채는 거예요. 기여도가 하찮고 피상적일 수 있죠.

    제 프로젝트에 AI를 사용할 때, AI가 생성한 코드는 기본적으로 제게 자동 완성처럼 보여요. 제가 손으로 썼을 법한 코드 그대로요. 그래서 왜 AI로 표시해야 하는지 모르겠어요. 그냥 시간을 절약해줄 뿐이에요. 이건 아주 제 작업물이에요.

  2. LudwigNagasena

    그런 멍청한 방법이 통하지 않는다는 건 명백해요. 그럼 다음은 뭘까요? 먼저 기본적인 단어 치환을 다뤄야 하는데, 이론적으로는 가능해 보여요. 그다음에는 시저 암호, 공백을 제로 너비 공백으로 바꾸기, Base64 같은 인코딩을 다뤄야 하죠. 당신의 계정은 난독화된 텍스트를 출력했다는 이유로 플래그 지정되고 신고될 거예요. 그다음엔 뭘까요? 이런, 텍스트를 직접 출력하는 대신 vim 명령어를 너무 많이 출력했군요, 당신의 계정은 플래그 지정되어 Europol에 신고됩니다. Deepseek으로 우회할 수 있다고 생각하나요? 아니요, VPN과 함께 금지될 거예요.

  3. Aerroon

    이 기술이 이론적으로 사용자 자체를 추적하는 데 사용될 수 있을까요? EU가 기술 기업에 추가 추적을 강제한다면 꽤 아이러니하지 않을까요?

  4. mgax

    이건 정말 시간 낭비예요.

    누군가 이걸 우회하려면 꽤 간단할 거예요. 그냥 단어를 바꾸면 되죠. 누군가 핑거프린팅을 피하려면 피할 거예요.

    이런 터무니없는 사이드 퀘스트에 두뇌를 쓰는 대신 그냥 빌드에 집중할 수는 없나요

  5. m-hodges

    > 오늘부터 전 세계 API 고객은 일부 모델에 대해 텍스트 워터마킹을 선택적으로 사용할 수 있습니다. 텍스트 워터마킹은 API에서 기본적으로 꺼져 있습니다.

    > 앞으로 몇 주 동안, 우리는 유럽연합에서 적격한 ChatGPT 및 Codex 텍스트 출력에 보이지 않는 워터마크를 추가할 것입니다.

이 날의 다른 글

2026-10-05