이스라엘이 만든 가짜 미국 싱크탱크, AI 챗봇 선전용으로 56만 단어 쏟아내
Fake US thinktank set up and funded by Israel sought to game AI for propaganda
가디언 조사에 따르면, 이스라엘 정부가 자금을 대고 뉴욕의 미디어 회사 Piro Inc가 설립한 가짜 싱크탱크 'Hanover Institute for Public Policy'가 9일 만에 56만 단어가 넘는 보고서를 게시했다. 이 보고서들은 학술적으로 보이도록 설계됐지만, 실제로는 이스라엘의 입장을 옹호하고 가자지구 관련 비판을 무력화하는 내용을 담고 있다. 이 사이트는 AI 챗봇이 인용하도록 최적화된 콘텐츠를 제공하는 상업 플랫폼 Res를 사용했으며, 이스라엘 정부는 Havas Media를 통해 수천만 달러를 이 캠페인에 투입했다. 전문가들은 챗봇이 이런 콘텐츠를 학습 데이터로 삼을 경우 사실 확인이 어려운 선전이 확산될 수 있다고 우려한다.
챗봇이 학습한 내러티브를 반복할 때는 출처조차 인용하지 않을 것이고, 그렇게 되면 사실 확인이 불가능해진다.
HN 토론
49- foolinaround
싱크탱크를 가짜로 만드는 게 뭘까?
실제 저자가 없나?
소개 페이지는 나한테는 꽤 평범해 보이는데 - https://hanoverinstitute.com/hanover/about
모든 싱크탱크는 항상 어떤 관점을 밀어붙이기 위해 설립됐어.
- neom
혹시 나처럼 헷갈렸다면... 거의 동시에 보도된 완전히 다른 두 개의 가짜 싱크탱크가 있는 것 같아.
- International Burke Institute (IBI): 이스라엘 싱크탱크라고 주장하지만 러시아가 자금을 댐. 이건 ChatGPT가 생성한 홍보 + 가짜 기관 신뢰도야.
- Hanover Institute for Public Policy: 미국 싱크탱크라고 주장하지만 이스라엘 정부가 자금을 댐. 이건 LLM 답변에 영향을 주거나 인용되도록 최적화된 자료를 의도적으로 출판하는 거야.
- NDlurker
이전 토론
- outside1234
이게 미래고 우리 모두 이에 맞서 싸워야 해. 각 채팅 인터페이스의 응답을 측정해서 이를 감지하는 감시 기구가 있나?
추신. 우리 미국 납세자 돈이 이런 일에 쓰이고 있어. 이스라엘에 대한 지원을 끊어.
- ChrisArchitect
[중복]