이란, ChatGPT로 미국 언론에 가짜 기사 심어
Iranian campaign planted fake articles in real U.S. publications using ChatGPT
OpenAI에 따르면 이란의 캠페인이 ChatGPT를 이용해 약 100편의 AI 생성 기사를 만들어 최소 20개 미국 뉴스 매체에 유포했다. 이 기사들은 Ervin Hoskins라는 가명으로 Port St. Joe Star, Daily Kos, Middle East Monitor 등에 실렸으며, 이란 전쟁을 비판하는 논조를 담고 있었다. 가짜 기사는 소규모 지역지부터 수백만 팔로워를 가진 매체까지 침투해 여론을 조작하려 한 것으로 보인다.
“이 법안은 전쟁 자체를 넘어 미국인들을 따라갈 것이다”라고 지난달 플로리다의 작은 주간지 Port St. Joe Star에 실린 오피니언 기사는 이란 전쟁을 경고했다.
HN 토론
159- chvid
"하지만 ChatGPT 개발사 OpenAI는 목요일, Hoskins의 주장된 작업물이 이란에 기반을 둔 사용자들이 '영향력 공작'의 일환으로 자사의 챗봇을 사용해 생성한 것이라고 밝혔다."
허수아비 계정과 가짜 의견 기사는 새로운 게 아니다.
새로운 것은, 글을 대신 써주는 것 외에도 모든 것을 기록하고, 판단하고, 마음대로 당국과 언론 매체에 보고하는 초중앙집권적인 "도구"다.
- OgsyedIE
셀프 호스팅 옵션이 다양하게 존재하는 상황에서, 지구상의 모든 정부가 어느 정도는 이런 짓을 하고 있다는 사실을 믿지 못할 이유가 없다.
아마도 진짜 문제는 형편없는 검증을 너무나 쉽게 받아들이는 것이다.
- xbar
이게 정확도 면에서 오히려 개선이 될 매체 하나가 떠오른다.
- thih9
"ChatGPT가 뭔가를 했다"고 하지 않고 운영자들에게 스포트라이트를 비춘 기사라니, 드디어 나왔다.
다른 뉴스에도 이 표현을 계속 쓸 수 있을까? 안 된다면, 일관성을 위해 여기서도 ChatGPT가 가짜 기사를 심었다고 말할 수 있을까?
- card_zero
저널리즘이 어떻게 돌아가는지 내가 무식한 모양이다: 그럴듯해 보이는 의견 기사를 써서 무명 매체에 제출하면, 그 매체가 뉴스 사이트와 신문에 넘겨주는 건가? 돈을 받나? 아니면 무료로 제공하는 게 정상이고 의심스럽지 않은 건가?
- delichon
나는 어떤 주장이든 강하게 옹호하는 글을 쓸 수 있는 LLM이 더 좋다. 전반적으로 악과 맞서는 것이 무시하는 것보다 더 효과적이라고 생각한다. 그런 목적에서 이런 심어진 기사들은 기능이다. 나는 이란 정부의 적으로서 이렇게 말한다.
- BeetleB
이 문제에 대해 (타당한) 다양한 의견이 많을 거라고 확신한다.
내가 말할 수 있는 건, 이것이 오픈 웨이트 모델의 필요성을 부각한다는 것뿐이다.
> OpenAI는 이 캠페인 배후의 계정들을 차단했다고 밝혔다
OpenAI가 행위자가 누구든 항상 이런 활동을 차단할 것이라는 걸 안다면 기쁠 것이다. 나는 그걸 모른다.
- tastyfreeze
모든 뉴스는 아주 오랫동안 첩보 기관의 도구였다. 공식적인 CIA의 Operation Mockingbird는 40년대 후반에 시작됐다. 이제 AI가 관련되면 그게 뉴스인가? 어느 것도 믿을 수 없다.