MS Paint와 사진 앱, 로컬 생성 이미지에 GUID를 보이지 않는 워터마크로 숨긴다
MS Paint and Photos inivisibly watermark even locally generated output with GUID
역공학 분석을 통해 Microsoft Paint와 Photos 앱이 로컬에서 AI 이미지를 생성할 때, 사용자 프롬프트를 원격 서버로 보내 검열을 받고, 서버가 발급한 GUID를 이미지 픽셀에 보이지 않는 워터마크로 삽입한다는 사실이 밝혀졌다. 또한 C2PA 메타데이터도 첨부되어, 파일 수준의 메타데이터가 제거되어도 워터마크를 통해 출처를 추적할 수 있다. 이 워터마크는 사용자가 설정할 수 있는 가시적 워터마크와 별개이며, Copilot+ PC에서도 프롬프트 검열은 원격으로 수행된다.
즉, '로컬 생성'이 전체 작업이 로컬에서 이루어진다는 의미는 아닙니다. Microsoft는 프롬프트를 받아 검열한 후, Paint가 로컬 생성 이미지에 삽입하는 고유 GUID를 발급합니다.
HN 토론
424- ozereray1
사용자의 명시적 동의 없이 로컬 파일에 숨겨진 GUID를 주입하는 것은 엄청난 프라이버시 침해입니다. 다른 로컬 도구들도 조용히 사용자 생성 콘텐츠에 태그를 붙이고 있는지 의문이 들게 합니다.
- mg794613
세상에, 이건 AI 문제와는 전혀 상관없습니다. 고객을 적극적으로 싫어하는 회사에서 OS를 아직도 사는 사람들이 이해가 안 됩니다. 그들이 벌이는 짓거리들은 돈을 내고 사용하는 OS에서조차 성공해서는 안 됩니다.
- palisade
아이고, Anthropic과 Google조차 기계 식별자는 하지 않았습니다. (아직은) 어휴.
- weberer
이 AI 측면은 헛다리입니다. 진짜 문제는 그들이 사용자가 만드는 모든 이미지에 비밀리에 고유 식별자를 추가한다는 것입니다. 누군가 당신의 밈을 좋아하지 않으면, Microsoft에 저작권 소환장을 보내 당신의 전체 이름, 주소, 이메일, 전화번호, 그리고 Microsoft 계정과 연결된 다른 모든 데이터를 즉시 얻을 수 있습니다. 나이 확인과 마찬가지로, 이것은 인터넷 익명성에 대한 전쟁에서 또 다른 무기입니다.
- ComputerGuru
AI 생성 텍스트 경고 (제출은 했지만 작성은 안 한 기사입니다), 하지만 MS Paint와 MS Photos가 AI로 조작된 사진에 보이는 워터마크 (끌 수 있음)와 보이지 않는 워터마크 (끌 수 없고 사용자 인지 없이 백그라운드에서 조용히 발생)를 모두 추가하는 것 같습니다. 로컬 모델을 사용하여 작업을 수행할 때조차도 말이죠. AI 강화 배경 삭제/제거 같은 것에도 적용되는지는 확실하지 않지만, 보이지 않는 워터마크는 이미지 픽셀과 이미지 메타데이터 모두에 포함되며, 둘 다 Microsoft 측에서 정확한 프롬프트와 출처 기기/사용자에 연결될 수 있는 GUID를 포함합니다. 당연한 다음 단계는 watermarker.dll을 (서명된) no-op shim으로 교체하거나 API 호출을 MITM하여 최소한 자신의 (nil?) GUID를 사용하여 기기/계정에 연결되지 않도록 하는 것입니다. 명확하지 않을 수 있지만, 제 더 큰 우려는 "이 이미지가 AI로 생성/조작되었음을 식별할 수 있다"는 것이 아니라 "디지털 노란색 프린터 점이 우리에게 강제되었고, 그것이 정확한 사용자/기기/시간/장소/문서 등을 식별하고 검색할 수 있다"는 것입니다. 이는 남은 프라이버시의 환상을 완전히 파괴합니다.
- VCFundedGenYer
이것을 주시하세요. 몇 달 전, Microsoft는 LLM이 실제로 관여했는지 여부와 관계없이 모든 Azure DevOps 커밋에 Copilot "워터마크" (자동으로 추가된 메모일 뿐)를 잘못 붙이려고 했습니다. 그들은 VS Code Copilot 확장 프로그램의 소스에 많은 GitHub 이슈가 제출된 후에 제거했습니다. Microsoft는 구현이 매우 엉성했습니다. 결과적으로 Paint나 그들이 사용하는 다른 LLM 지원 앱을 사용하지 않는 것이 좋습니다. 잘못 찍힐 수 있습니다.
- clickety_clack
인정하건대 Windows를 사용한 지 오래되었지만, MS Paint가 더 이상 클릭 몇 번으로 픽셀을 색칠하는 앱이 아니라는 소식을 듣고 매우 충격적입니다. 그들은 Paint를 순수한 "그림" 앱으로 남겨두고 화려한 기능은 새로운 이미지 편집기 같은 곳에 추가할 수도 있었을 것 같습니다. 아마도 그들은 직원들이 정말 좋은 소프트웨어를 만드는 대신 계속 변경을 가해서 승진하도록 최적화한 것 같습니다.
- JoeBOFH
며칠 전에 이 기능이 잘못 발동해서 Paint.net을 설치했습니다. 제가 찍은 스크린샷을 붙여넣고 크기만 조정하려고 했습니다. AI로 만들어졌다는 배너가 표시되며 이를 반영하도록 업데이트된다고 했습니다.
- dagaci
구글링하면 워터마킹 소스 코드를 여기에서 볼 수 있습니다: https://github.com/microsoft/InvisMark
- Delphiza
프라이버시 우려를 이해하고, Microsoft가 이것이 자신들의 도구가 하는 일이라고 말할 권리가 있다고 생각합니다. 그러나 언젠가 우리는 인간의 진정성에 서명하고 보존하기 위해 더 많은 일을 하지 않은 것을 돌아보며 후회할까 두렵습니다. "AI 조작됨"이라는 스탬프는 디지털 계보 도구의 일부가 되어야 합니다.