해커들이 ChatGPT와 Gemini를 조종해 사용자들을 사기 센터로 유인하다
Hackers influence ChatGPT and Gemini to direct users to scam centers

해커들이 GEO(Generative Engine Optimization) 기법으로 웹을 오염시켜 ChatGPT, Gemini, Google AI Overview가 가짜 고객센터 전화번호와 이메일을 공식 정보로 인용하도록 만들고 있다. Delta, Lufthansa, Chase, Bank of America 등 374개 기업이 공격 대상이며, 자동화된 캠페인으로 하루 수천 개의 악성 게시물이 생성된다. AI는 진실과 거짓을 구분하지 못하기 때문에, 사용자가 AI 답변을 신뢰할수록 공격자는 더 쉽게 금전적 이득을 얻는다.
AI는 진실과 거짓을 구분하지 못한다는 근본적인 사실은 변하지 않을 것이기 때문에, 이러한 공격은 더욱 심해질 것이다.