AI 생성 문서, 이제 눈에 안 들어온다
I'm Becoming AI-Blind
개발자 라팔 치메리스가 AI 생성 문서에 대한 '배너 블라인드' 현상을 겪고 있다고 고백했다. 그가 받은 문서들은 클로드 등 LLM의 흔적이 강하게 남아 있으며, 과장된 표현과 내부 추론 같은 문체가 특징이다. 그는 인간이 AI 텍스트를 인식하지 못한다는 연구에 반대하며, 저품질 AI 텍스트는 쉽게 알아볼 수 있다고 주장한다. AI가 생산성을 높여줄 것이라는 기대와 달리, 오히려 문서 검토 과정을 지연시키는 역효과를 낳고 있다는 것이다.
AI가 생산성을 높여줄 거라던 그 AI가, 이제는 예상치 못한 방식으로 나를 느리게 만들고 있다.
HN 토론
478- causal
내 뇌가 AI 생성 텍스트를 즉시 알아보고 '여기에는 정보가 없다'로 단락 회로를 일으키는 심리적 메커니즘이 있는 것 같아.
그리고 억지로 AI 생성 텍스트를 읽으려고 하면, 내 뇌가 단어에 의미를 부여하기 위해 창의적인 작업을 하고 있다는 것을 깨닫게 돼. 텍스트를 가치 있는 것으로 즉석에서 재작성하려고 하기 때문에 정말 지치지.
AI 생성 출력에 뭔가 심각하게 잘못된 점이 있어. 평소에 AI에 꽤 감탄하는 사람으로서 하는 말이야.
- davidgh
이번 주 내내 반복되는 루프에 빠져 있었어. 동료가 Claude가 분명히 생성한(이 경우에는 괜찮지만) 몇몇 방법론 문서를 검토해 달라고 했는데, 앉을 때마다 내 뇌는 두 문장도 넘기지 못하고 아무것도 읽고 있지 않은 것 같은 느낌이 들어. 내용이 비어 있지 않은데도 의미가 없는 것처럼 느껴져. 그래서 다른 업무로 넘어갔다가 나중에 다시 돌아와도 같은 현상이 반복돼. 이제는 그 문서를 여는 것 자체가 불안해져서 어려움이 더 커졌어 하하. 다른 사람들도 이런 경험을 하고 있다니 다행이야.
- tlkn_bot_praxis
제 아들이 지금 루마니아어를 배우고 있는데, 제가 동사를 도와주려고 했어요. 저는 루마니아어를 모르지만, 외국어를 처음 배울 때 영어에서 동사 형태나 시제가 어떻게 작동하는지 분석한 다음 새 언어에서 그에 상응하는 표현을 배우는 것이 정말 도움이 되었던 기억이 났어요. 그래서 아들이 학습 자료로 사용할 수 있는 차트와 페이지를 만들고 싶었어요.
Claude를 사용해서 만들었죠. 어떻게 설명해야 할지 모르겠지만, 텍스트가 매끄럽고 잘 구성되어 있어서 제 뇌는 '이해가 안 되면 집중하지 않아서다'라는 신호를 보냈어요. 그래서 다시 읽고 또 다시 읽었지만 여전히 이해가 되지 않았어요. 마치 매우 피곤할 때 기술적이거나 어려운 내용을 읽을 때처럼, 읽고는 있지만 처리가 되지 않는 느낌이었죠.
며칠 동안 씨름한 끝에야 문제가 제게 있는 것이 아니라는 것을 깨달았어요. 문장 하나하나를 살펴보며 더 명확하게 다시 쓰도록 강제하기 시작하자 개념이 이해하기 쉬워졌어요.
이 상황에 이름이 있었으면 좋겠어요. 마치 올바른 형식과 표현을 갖추고 있지만 중요한 구성 요소가 빠져 있는 유사 언어와 같아요.
주제가 복잡할수록 이런 느낌이 더 강해져요.
- datsci_est_2015
저도 Claude가 우리 풀 리퀘스트에 몰래 넣은 주석의 절반을 이해하는 것이 불가능하다고 느껴요. 인간이 쓴 코드 주석을 이해하는 데는 이런 문제를 겪어본 적이 없어요. 정보의 구조가 마치 폭포수 같아서 수면으로 헤엄쳐 올라가 이해의 공기를 마실 수 없게 만듭니다.
그래서 '이 5줄의 AI 생성 주석을 한 줄짜리 수동 주석으로 바꿔주세요'라는 말이 동료들에 대한 제 PR 리뷰에서 자주 나오는 말이 되었어요.
- SamBam
마지막 이미지는 정말 이상하네요. 키슈, 크림, 심지어 샐러드까지 공포증(트라이포포비아)을 유발하는 것처럼 보여요.
그게 말이 될 수도 있는 게, 뉴스 사이트의 청박스 영역에는 항상(지금도?) 공포증이나 다른 소름 끼치는 바디 호러 요소를 사용하여 클릭을 유도하는 끔찍한 광고가 있었거든요. [1] 그래서 아마도 사람들이 키슈를 자세히 보지 않도록 하고, 뇌의 파충류 같은 부분이 이상하게 활성화되어 레스토랑으로 향하게 하려는 것일지도 몰라요?
1. https://medium.com/the-awl/a-complete-taxonomy-of-internet-c...
- getnormality
고등학교 때 선생님이 '더 빠르고 더 잘 읽는 방법'이라는 책을 주셨어요. 속독을 가르치는 책이었죠. 대학에서 아주 유용했어요.
현대 인간의 글을 속독하려고 하면, 종종 오류(빠진 단어나 잘못 사용된 단어 같은)나 어색한 표현이 있어서 제대로 파싱하기 위해 속도를 늦추고 더 열심히 생각해야 할 때가 많아요.
AI 글은 어느 정도 자기 반복적이고 각 문장의 정보 밀도가 더 균등한 것 같아요. 그래서 아주 높은 수준의 속독으로 전체 요지를 파악하기가 매우 쉬워요.
또한 허깅페이스에 있는 봇(또는 AI 번역을 사용하는 비원어민 영어 사용자)으로 추정되는 것들이 저와 상호작용하는데, 아주 천천히 읽기 전에는 그들이 말하는 것을 전혀 알 수 없어요.
- tingletech
저는 코딩에서도 이런 어려움을 겪어요. Claude가 계획을 내놓으면 세부 사항을 대충 훑어보지 않도록 정말 집중해야 해요. 또한 계획을 파싱하기 어려운 이유는, 높은 수준의 맥락이 Claude가 할 일에 대한 제 이해와 일치하는지 확인하기 위해 거꾸로 작업해야 하기 때문이에요.
- rappatic
Claude는 지난 6개월 동안 눈에 띄게, 고통스러울 정도로 글쓰기 능력이 나빠졌어요. 이 시점에서 코드 외에는 거의 쓸모가 없어요.