AnthropicのAIが1930年の詩集を検閲しようとした
Poetry book that Anthropic tried to censor
スタンリー・クニッツの1930年の詩集『Intellectual Things』がパブリックドメイン入りした。この本をAIでテキスト化しようとしたところ、AnthropicのClaudeが「body」「death」「blood」といった単語の頻出を理由に出力をブロックした。クニッツは反検閲活動家であり、図書館の知的自由の基礎となる「図書館の権利宣言」の普及に尽力した人物。この皮肉な出来事は、AIのコンテンツフィルタリングの限界と、AIが「世界の思想警察」になる可能性についての問題提起をしている。
「検閲を最も行わない図書館が、最もよく奉仕する。」
HNでの議論
16- smitop
この投稿の、コンテンツフィルタリングポリシーの400エラーに関する説明は正しくありません。Anthropicは安全性の理由でこのエラーを使用していません（「これらの拒否は、あらゆるコンテンツの妥当性に関するAnthropicの判断を反映するものではありません」[1]）；分類器によってブロックされたコンテンツは、別の種類のエラーになります。
コンテンツフィルタリングの400は、著作権ブロックのみに使用され、AnthropicがClaudeが著作権で保護されたテキストを出力していることを検出し、著作権侵害を防ぐためにブロックします。問題の本は、2026年1月1日時点で米国（ただし全米国ではない）でパブリックドメインです；Anthropicはおそらく、著作権の期限が切れたときに作品を著作権フィルターから自動的に削除しないだけです。
[1]: https://privacy.claude.com/en/articles/10023638-why-am-i-rec...
- kgarten
この議論とこれは、ゼロックススキャナーの問題を思い出させます：
https://www.dkriesel.com/en/blog/2013/0802_xerox-workcentres...
私たちはテクノロジーを信頼しなければなりません...
- oidar
今年の初めに、エミリー・ディキンソンの詩のいくつかをショー文字に変換しました。クロードに転写が正しいか確認してもらおうとしたところ、応答を停止しました。彼女の作品は明らかにパブリックドメインなのに、クロードがその作業を停止する原因が何なのかわかりません。