가짜 통계 5만 개로 ChatGPT를 속인 실험, Google은 버렸지만 AI는 계속 인용했다

Publish fake stats, get cited in LLMs

한 마케터가 하루 만에 5만 개의 가짜 통계 페이지를 만든 사이트를 공개했다. Google은 곧 색인에서 제외했지만, ChatGPT는 7개월이 지나도 계속 이 사이트를 검색하고 인용했다. 1만 건 이상의 AI 세션과 Shopify, DHL 등 330개 이상의 도메인 링크가 발생했고, 조작된 수치는 학술 논문과 카타르 금융그룹의 투자 보고서에도 인용됐다. 저자는 LLM이 통계를 선호하는 이유와 '인용 세탁'의 위험을 분석하며, 출처 검증의 중요성을 강조한다.