Sam Altman, "AI가 만든 보안 구멍, 패치로는 못 막는다"
Sam Altman: 'I No Longer Think We're Gonna Be Able to Just Patch All the Bugs'
OpenAI CEO Sam Altman이 Stanford 경영대학원 강연에서 AI가 촉발한 사이버보안 위기가 상상 이상이며, 이제 버그를 모두 패치하는 방식으로는 대응할 수 없다고 밝혔다. Anthropic의 Claude Mythos 사태 이후 각 조직이 당장 발견된 취약점만 고치고 상황이 지나갔다고 여겼지만, 모델은 계속 진화하고 있다는 지적이다. 그는 같은 AI 기술로 새로운 방어 체계를 구축해야 한다고 주장한다.
이제 우리가 모든 버그를 그냥 패치할 수 있을 거라고는 더 이상 생각하지 않는다.
HN 토론
112- cmiles8
그가 진짜로 말하는 뜻은 이거다:
제발 지금 우리를 규제해 주세요! 당장 규제 포획(regulatory capture)을 못 하면 나는 끝장이에요. 아니, 이봐요, 나는 겨우 불을 밝혀두려고 수백억 달러를 더 구걸하러 갔고 내 IPO는 날이 갈수록 더 망해가는 것처럼 보인다고요. 제발, 빌게요. 당신들을 설득하려면 대체 무슨 말을 더 해야 합니까?
- pmlnr
"우리의 전능한 AI가 폭주하는 걸 막으려면 우리의 전능한 AI를 사야 한다"
이건 갈취(racketeering)의 교과서적인 정의다.
- preommr
특이점조차도 php를 고칠 수는 없을 거다.
농담은 제쳐두고, 우리는 AI 찬성론자들이 'AI는 정말 좋다, 하지만 그렇게까지 좋지는 않다'고 말하는 역설의 새로운 시대에 접어들고 있다... 실제로는 그렇게까지 좋은데도 말이다.
아마 AI 모니터를 서비스로 제공하게 되겠지만, 안전의 대부분은 인간이 더 형식적인 명세를 작성하는 데 노력을 들이기를 거부하기 때문에 AI가 까다로운 버그를 더 잘 검토하는 데서 나와야 할 것이다.
- bix6
> OpenAI가 분명히 분쟁 양측에 모두 팔아넘기는 무기상 모델에 뛰어들고 있는 모양이다.
사업이 번창하네!
- somat
엔지니어링이 어렵다는 걸 깨닫는 영원한 순환이 계속된다.
"프로그래밍을 시작하자마자 우리는 프로그램을 올바르게 만드는 것이 생각만큼 쉽지 않다는 사실을 놀랍게도 발견했다. 디버깅은 발견되어야 했다. 그때부터 내 인생의 상당 부분이 내 프로그램의 실수를 찾는 데 쓰일 것임을 깨달은 정확한 순간을 기억한다."
모리스 윌키스, 1949
- oxag3n
알트먼의 핵심 메시지는 더 뒤쪽에 있다. "나는 우리가 방어 모델을 완전히 전환해서 새로운 종류의 방어막에 같은 기술을 사용해야 할 것이라고 생각한다"고 그는 말했다.
이는 그들이 보안 버그 발견으로 수익을 낼 수 없어서 '안티바이러스' AI와 짝지어 내놓는다는 뜻이며, 다시 말해 갈취다.
- mikewarot
논란의 여지가 있는 의견: 이건 언어 문제가 아니라 운영체제 설계 문제다. 인터넷 시대에 적합하지 않다는 게 명백해진 지 30년이 지나도록, 기본 거부(default deny)와 능력(capabilities) 대신 주변 권한(ambient authority)에 기반한 OS를 사용한 결과일 뿐이다.
- altcognito
"규제하지 않으면 너무 위험하다!" 아무도 범용 컴퓨팅을 가져서는 안 된다!