해커가 장난으로 구글 기록을 조작했더니, AI가 그걸 '사실'로 세상에 퍼뜨렸다
I Accidentally Became a Millionaire
보안 연구자 Lyra Rebane은 Chromium 버그 리포트에서 실수로 편집 권한을 얻자 장난으로 상금 필드를 133만 3337달러로 바꿨다. 이를 X에 농담으로 올렸는데, AI가 만든 커뮤니티 노트가 '스크린샷을 직접 편집했다'고 잘못 설명했고, 이후 AI 뉴스 팟캐스트와 구글 AI 검색이 이를 사실로 받아들여 'Chrome 최고 포상금'으로 소개했다. 저자는 이것이 AI와 소셜 미디어를 통한 허위정보 확산의 사례라고 지적한다.
구글은 133만 3337달러의 포상금을 지급하지 않았으며, 작성자는 실수로 버그에 대한 편집 권한을 받은 뒤 직접 vrp-reward 필드를 변경한 것입니다.
HN 토론
12- netsharc
한 여배우(아마 제니퍼 로렌스였던 것 같다)가 영국의 그레이엄 노턴 토크쇼에서 일화를 하나 털어놨다. 나는 그때 영국 시간으로 밤 10시쯤 실시간으로 그 방송을 보고 있었는데, 이야기가 궁금해져서 그 사건에 대해 구글링을 시작했다. 결과가 하나도 없었다.
그런데 에피소드가 끝나자마자 검색 결과가 나왔다! 하지만 그건 전부 방금 끝난 그 에피소드를 언급한 "뉴스" 사이트들이었다. "뉴스"라고 따옴표를 붙인 이유는, 그게 전부 봇이 쓴 것 같은 느낌이었기 때문이다(이때는 LLM 이전이었다). 나에게는 슬롭(slop)의 속도에 대한 초현실적인 경험이었다...