Raymond Chandler를 31번 재귀시켰더니 호러 소설이 나왔다
Recursion into Madness
보안 연구자가 Gemini에게 Raymond Chandler의 문장을 '대담하게 다시 써달라'고 반복 요청했다. 8회차에는 거울이 폭력을 휘두르고 다리가 '파멸을 위해 조각'되었으며, 20회차쯤 모델은 잠시 안정을 찾는 듯했다. 31회차에 도달하자 소설은 완전한 호러로 변모했다. 이미지 편집과 달리 텍스트 재귀는 노이즈가 적어 단순 작업은 안정적이지만, 개방형 재작성은 결국 'peak LLMese'에 수렴한다는 분석이다.
Raymond Chandler가 이렇게 호러에 재능이 있었을 줄이야.
HN 토론
14- blargey
소셜 미디어에서 화제가 된 "AI 레스토랑 메뉴 참극"의 원인으로 추측된다. 레스토랑이 AI로 전체 메뉴판을 무에서 창조하는데, 최신 이미지 모델로 처음에는 "괜찮아" 보이지만 메뉴 텍스트/레이아웃을 반복적으로 편집하면 그럭저럭 먹을 만해 보이던 음식 "사진"이 트리포포비아를 유발하는 공포물로 변모한다. (그리고 왠일인지 그들은 눈치채지도, 신경 쓰지도 않는다)
특히 최근 ChatGPT Images 2.5 발표에서는 이 문제를 구체적으로 해결했다고 주장했다 ("멀티턴 편집 일관성")
- GPerson
AI를 사용해 모든 지식을 반복해서 다시 쓰는 사회에서도 같은 효과가 일어날까?
- abecedarius
이걸 보니 내 불완전한 기억으로는 Twain이나 Poe 같은 사람의 작품으로 기억되는, 자동 재작성 기계에 관한 이야기/단편이 떠오른다. 그 기계는 같은 구절을 점점 더 높은 강도 설정으로 작업하게 되었고, 패러디라고 할 정도로 점점 더 고딕적으로 변해갔다 -- 기억이 맞다면 최종 출력은 "to atoms dash the doubly damned"라는 구절이 포함된 운문이었다.
이거 기억하는 사람 있나?