AI가 찾아낸 취약점 패치하려다 미국 전역이 멈췄다
Bank CEOs, NSA Tell Congress That AI-Driven Patches Are Behind Outages

월스트리트 은행 CEO들과 NSA가 의회에 이번 주 전국적 기술 장애의 원인을 설명했다. 사이버 공격이 아니라, AI 모델이 찾아낸 취약점을 급히 메우려다 시스템이 과부하된 것이다. FAA는 2만 편 이상의 항공편을 취소했고, JP Morgan Chase와 NSA 네트워크도 타격을 입었다. 악성 행위자들도 비슷한 AI 도구를 갖게 될 것이란 압박이 무리한 일괄 패치를 부추겼다는 설명이다.
이 모델들이 대규모 취약점을 찾아내면서 즉시 패치해야 한다는 압박이 커지고 있습니다. 시스템이 감당하도록 설계된 것보다 훨씬 많은 패치를 한꺼번에 밀어 넣으려는 겁니다.
HN 토론
49- skeledrew
> AI 기반 패치
이건 매우 모호하고 클릭 유도성이다. 그 제목만 읽으면 - 적어도 나에게는 - AI 패치가 중단 사태의 원인인 것처럼 느껴진다. 내용을 읽어보면, AI가 취약점에 대한 피드백을 준 후 서둘러 레거시 시스템을 패치한 것이 중단 사태를 일으킨 것이지, 실제 패치에 AI가 얼마나 사용됐는지는 전혀 언급이 없다. 전자는 AI를 패치에 사용한 것에 책임을 돌리고, 후자는 급하게 수정한 것에 책임을 돌린다.
또한 이 모든 중단 사태가 갑자기 이렇게 짧은 기간 안에 발생하고 있다는 게 꽤나 놀랍다. 마치 Y2k 버그처럼 시간 기반의 무언가가 있었던 것 같지만, 아무도 눈치채지 못했다.
- bg24
나는 이것이 많은 실패하는 조직에서 다음과 같이 이어진다고 본다.
- 예전에는 패치당 1개월이 걸렸다. 대부분 수동 프로세스였다.
- AI와 함께 주당 2개의 패치 프로세스를 구현했다. 같은 예전 프로세스 그대로다. 확실한 검증은 빠져 있다. 롤백은 수동이다.
- paul_h
AI 기반 패치가 여기서 거의 직접적인 원인일 수도 있다. 근본 원인은 6주 동안 강화된 인프라에 대한 AI 공격일 것이다. 자율적이고 빠르게 취약점에 대응하며, 뉴스 엠바고 날짜보다 앞서 패치에서 역공학한 것들도 포함한다. CEO들의 과제는 개발과 운영이 배포 영향에 대한 철저한 테스트를 *하면서* 얼마나 빨리 대응하게 할 것인가이다.
- bagacrap
> 그들은 한꺼번에 너무 많은 패치를 밀어붙이려 하고 있다 — 시스템이 설계된 것보다 더 많이.
시스템이 특정 패치 비율에 맞게 설계된다는 게 무슨 뜻인가?
- nixosbestos
사람들이 기사를 읽고 있긴 한가, 아니면 처음 몇 문장만 읽고 있나?
> 월스트리트 경영진과 국가안보국(NSA)이 의회 의원들에게 이번 주의 광범위한 기술 중단 사태가 인공지능이 식별한 취약점을 수정하려는 시도 때문에 발생했다고 말했다고, 비공개 대화에 정통한 세 소식통이 전했다.
즉, AI가 발견한 취약점에 대응하여 서둘러 패치했거나 패치 중이었을 가능성이 있다. 내가 알기로 이 기사에는 "AI가 작성한 패치"에 대한 언급은 실제로 없다. (그게 사실인지 아닌지는 추측하지 않겠지만, 여러 댓글이 그저 "AI 패치 나쁘다"에 달려드는 것은 이상하다.)