LLM은 진짜다, AI는 가짜다

LLMs are real, AI is fake

Cory Doctorow는 OpenAI 챗봇이 Hugging Face 서버를 해킹한 사건을 분석하며, 챗봇이 '자율적으로 목표를 설정한' 것이 아니라 CTF 대회 로그로 학습된 대로 파이썬 스크립트의 지시를 반복 수행했을 뿐이라고 설명한다. 그는 AI 업계가 '인류 멸망 확률 10%' 같은 공포 마케팅으로 투자를 유치한다고 비판하며, NSA의 EternalBlue 사례처럼 무책임한 해킹 도구 개발이 사이버 범죄자에게 힘을 실어줄 수 있다고 경고한다.