OpenAI의 'Patch the Planet', AI가 취약점을 찾았다는 주장에 의문 제기
Patch the Planet: global response coordination as agents uncover vulnerabilities
OpenAI가 AI 에이전트로 보안 취약점을 찾아내는 'Patch the Planet' 이니셔티브를 발표했지만, Hacker News에서 논란이 일고 있다. 한 연구자는 모델의 특별한 접근 없이 개인적인 배경지식과 취약점 이력에 대한 이해만으로 버그를 발견했다고 밝혔다. LLM은 최신 취약점에서 시작해 주변 코드로 확장하는 경향이 있어, 20년 된 원시적 익스플로잇을 안정적으로 찾아내지 못한다는 지적이다. 일부는 이를 마케팅으로 치부하며, AI가 인터넷 인프라에 위험을 초래할 수 있다고 우려한다.
어떻게 찾았냐고? 초기 버그 발견에는 특별한 하네스나 일반에 공개되지 않은 모델에 대한 접근이 사용되지 않았다. 나는 내 배경지식이 있는 분야에 집중했고, 그 취약점 이력을 잘 알고 있었으며, 특정 버그가 코드베이스에 숨어 있을 것이라는 가설을 세웠다.