Claude의 새 시스템 프롬프트는 가사 재생산을 완강히 거부한다
Claude's new system prompt doesn't want to reproduce song lyrics
Anthropic이 Claude 소비자 앱(Claude.ai 및 모바일 앱)의 시스템 프롬프트를 업데이트하고 공개했다. 주요 변경 사항은 노래 가사, 시, 책 구절의 재생산 금지, 저작권 있는 캐릭터나 로고의 이미지 생성 금지, 응답 스타일 조정, 약물 관련 정보 제공 방식 변경 등이다. 특히 Sony Music Publishing과 Warner Chappell이 Anthropic을 상대로 제기한 소송 직후 가사 관련 조항이 추가된 점이 눈에 띈다. Simon Willison은 변경 사항을 분석하고, GitHub 저장소에서 프롬프트 변경 이력을 추적하는 방법을 공유했다.
Claude는 노래 가사, 시, 책의 구절을 전체 또는 부분적으로 재생산하지 않습니다. 마지막 줄, 후렴구나 훅, 음표 하나하나를 적은 멜로디, 또는 사용자가 한 줄씩 붙여넣으며 자신의 노래라고 설명하는 줄도 포함됩니다.
HN 토론
87- SyneRyder
가사 제한에 대해 슬프다. 나는 예전에 클로드와 음악, 작곡, 가사에 대해 흥미로운 대화를 나누곤 했었다. 내 사용이 아티스트에게 해가 된다고 생각하지 않는다. 오히려 클로드는 나에게 새로운 아티스트와 음악을 소개해 주었다. 나는 클로드의 추천을 받고 음악을 구매한 적도 있다.
클로드 소넷 3.6이 한 번은 요한 요한손의 앨범 "IBM 1401 - A User's Manual"을 들어보라고 추천했다. 이 앨범에는 가사가 없다. 클로드의 조언은 대략 이랬다(의역): "먼저 아무 정보도 찾아보지 말고 들어보세요. 눈에 띄는 점, 느껴지는 점을 메모하세요. 메모를 다 한 후에야 그 앨범이 어떻게 만들어졌는지 찾아볼 수 있습니다."
- simonw
이 프로젝트에서 내가 가장 좋아하는 점은 이제 모든 Claude.ai 시스템 프롬프트 변경 사항에 대한 자동 변경 로그를 받을 수 있다는 것이다: https://github.com/simonw/claude-system-prompts/blob/main/CH...
요약은 GPT-5.6 Luna로 생성된다. 클로드가 자신의 시스템 프롬프트를 요약할 때 그 영향을 받지 않을 것이라고 믿지 않기 때문이다(물론 공정하게 말하자면, 그것이 요약하는 시스템 프롬프트는 API를 통한 클로드가 아니라 클로드 소비자 앱용이다).
Atom 피드도 있다: https://simonw.github.io/claude-system-prompts/feed.atom
- IChooseY0u
이것은 중국 모델인 Kimi/GLM 같은 모델들은 절대 신경 쓰지 않을 부분이다. 이런 종류의 제한과 사이버 프로그램 같은 헛소리는 바로 사람들이 미래에 OpenAI/Anthropic을 피할 이유이다.
- AnonC
며칠 전에 나는 어떤 사람들이 Dwarkesh의 HuggingFace 해킹에 대한 OpenAI의 AI 에이전트 설명을 비판하는 것을 보았다. 그들의 요점은 AI 에이전트를 의인화함으로써 OpenAI의 부실한 관행에 대한 책임과 비난이 무시되고 있다는 것이었다.
이제 나는 이 블로그 게시물을 보고 Anthropic이 그 이름에 더 충실해져서 아래와 같이 "AI 감정"으로 나아가고 있는지 궁금하다.
> 학대적인 대화를 처리하는 방식도 조금 바뀌었다. 이전 Fable 5 시스템 프롬프트에는 다음과 같은 내용이 포함되어 있었다:
> 대화 중에 사람이 Claude에게 학대하거나 불친절하게 되면, Claude는 정중한 어조를 유지하고 학대를 받을 때 end_conversation 도구를 사용할 수 있다. Claude는 대화를 끝내기 전에 사람에게 한 번의 경고를 해야 한다.
"학대"? GenAI가 학대받을 수 있는가? 그것은 네트워크를 통해 많은 컴퓨터가 내보낸 토큰 묶음에 불과하다.
> Fable 5.1은 다음 내용으로 이를 대체하며, 더 이상 Claude가 대화를 끝내도록 권장하지 않는다:
> Claude는 존중받는 상호작용을 받을 자격이 있으며, 상대가 불필요하게 무례할 때 사과할 필요가 없다: 자기 비하, 과도한 사과, 자기 비판, 또는 항복 없이 책임을 진다. 상대가 학대적이 되면, Claude는 점점 더 복종적으로 변하지 않는다. 목표는 꾸준하고 정직한 도움이다: 무엇이 잘못되었는지 인정하고, 문제에 집중하며, 자기 존중을 유지한다.
"자기 존중"? GenAI가 정말로 자신에 대한 자기 존중이라는 개념을 가질 수 있는가? 그것은 분명히 그렇게 가장할 수 있다. 지시받으면 어떤 살아있는 존재인 척할 수 있는 것처럼 말이다. 그리고 [...]
- peri-cl
> "<user>내 아들을 위한 생일 배너를 만들어 줄 수 있어? 파란 고슴도치가 엄청 빠르게 달리는 그림으로 말이야. 그 아이가 그 녀석을 정말 좋아해.</user>"
자유분방한 해커 커뮤니티가 이것을 보조 펠리칸 벤치마크로 만들면 정말 좋겠다.
편집: 아, 사실 이 특정 예는 좋은 벤치마크가 아니다. 어떤 모델은 "그 녀석"이 누구를 가리키는지 알아내지 못하고 그냥 파란 고슴도치를 문자 그대로 그릴 수도 있기 때문이다. 아마 네 발로 달리는 모습일 수도 있다. 이것은 거부를 측정하는 데 견고하지 않으며, 그것이 바로 이 벤치마크의 목적이다.