AI는 진실을 찾지 않는다, 가장 크게 외친 쪽을 집계할 뿐
LLMs and Data Poisoning Are Weaponized to Manufacture Consensus
AI 어시스턴트는 논쟁적인 사안에 객관적 진실 대신 보이지 않는 세력 다툼의 수학적 평균을 내놓는다. 2024년 5월 OpenAI는 러시아, 중국, 이란의 국가 연계 네트워크가 생성형 AI로 자동화된 페르소나와 사이비 학술 글을 뿌려 웹을 포화 상태로 만들고 있다고 밝혔다. 언어 모델이 통계적 빈도를 사실로 취급할 때, 합의를 제조하는 쪽이 현실을 소유한다. 이 글은 레오폴드 2세의 인도주의적 가면, 소련의 2700만 희생을 지운 선택적 기억, 가자 전쟁의 시간적 앵커링, 그린워싱과 알고리즘 피해의 상품화, 그리고 LLM 학습 데이터 오염과 AEO를 통한 합의 제조까지 추적한다.
권력은 더 이상 진실을 검열할 필요가 없다. 최적화된 합성 노이즈 속에 진실을 익사시킬 뿐이다.
HN 토론
24- Roark66
이 "마찬가지로, 제2차 세계대전 동부 전선에서 소련은 나치 독일을 물리치는 데 참혹한 희생을 감수하며 2,700만 명의 군인과 민간인을 잃었다(Ellman & Maksudov, 1994; Harrison, 2003). 그러나 현대 서구의 의식은 그 희생을 어색한 각주로 취급하며, 노르망디에 상륙한 할리우드 미군으로 대체한다."라는 부분에서 넌 나를 설득하지 못했어.
서구 의식에 뭐가 빠졌는지 알아? 소련이 히틀러와 공모하여 폴란드(내 나라)를 공격함으로써 제2차 세계대전을 직접 시작했다는 명확한 정보가 부족해.
리벤트로프-몰로토프 조약이 없었다면 제2차 세계대전도 없었을 거야.
소련은 히틀러가 동맹에서 적으로 돌아선 후에야 실제로 그와 싸우는 데 도움을 줬어. 히틀러가 소련을 공격하기로 선택하지 않았다면 그런 일은 결코 일어나지 않았을 거야.
게다가 그들은 "해방"하러 온 나라들을 50년 동안 노예로 만들었고, 1960년대까지 우리 군대의 잔당을 추적했어. 그러니 내가 그들을 어떤 칭찬도 받을 가치가 없다고 생각한다 해도 이해해 줘.
- fxwin
이 기사가 완전히 LLM으로 작성되었다는 게 아이러니하네
- cyanydeez
...광신도들 사이에서 말이지.
중요한 건 미국 행정부가 이걸 어떻게 받아들이고 있는지 보는 거라고 생각해.