Anthropic의 AI가 1930년 시집 검열을 시도하다
Poetry book that Anthropic tried to censor
KK.org의 Mark Frauenfelder는 1930년에 출판된 Stanley Kunitz의 첫 시집 'Intellectual Things'를 퍼블릭 도메인 진입을 기념해 ebook으로 제작하는 과정에서, AI 기반 텍스트 변환 도구인 Claude가 시의 내용 중 'body', 'death', 'blood' 등의 단어가 밀집된 부분에서 출력을 차단하는 '콘텐츠 필터링' 오류를 경험했습니다. 이 사건은 Kunitz가 미국 도서관 협회의 'Library Bill of Rights' 채택에 영향을 준 검열 반대 운동가였다는 점에서 아이러니합니다. Frauenfelder는 Kunitz의 생애와 시 세계를 소개하고, AI의 검열 가능성에 대한 우려를 제기합니다.
그 도서관은 가장 적게 검열하는 곳이 가장 훌륭하다.
HN 토론
16- smitop
게시물의 콘텐츠 필터링 정책 400 오류에 대한 설명은 정확하지 않습니다. Anthropic은 안전상의 이유로 해당 오류를 사용하지 않습니다("이러한 거부는 Anthropic이 어떤 콘텐츠의 적절성에 대한 판단을 반영하는 것이 아닙니다"[1]); 분류기에 의해 차단된 콘텐츠는 다른 종류의 오류를 받습니다.
콘텐츠 필터링 400은 저작권 차단에만 사용되며, Anthropic은 Claude가 저작권이 있는 텍스트를 출력할 때 이를 감지하여 저작권 침해를 방지하기 위해 차단합니다. 문제의 책은 2026년 1월 1일 현재 미국(일부 국가 제외)에서 퍼블릭 도메인입니다. Anthropic은 아마도 저작권이 만료될 때 필터에서 저작물을 자동으로 제거하지 않을 것입니다.
[1]: https://privacy.claude.com/en/articles/10023638-why-am-i-rec...
- kgarten
이 논의와 이 글은 제록스 스캐너의 문제를 떠올리게 합니다:
https://www.dkriesel.com/en/blog/2013/0802_xerox-workcentres...
우리는 우리의 기술을 신뢰해야 합니다 ...
- oidar
올해 초, 저는 에밀리 디킨슨의 시 몇 편을 쇼비안 문자로 변환했습니다. 제가 클로드에게 전사가 올바른지 확인해 달라고 했을 때, 클로드는 응답을 멈췄습니다. 그녀의 작품은 명백히 퍼블릭 도메인인데, 무엇이 클로드가 그 작품으로 작업하는 것을 멈추게 했는지 잘 모르겠습니다.