Satya Nadella "모든 AI 모델은 compromised라고 가정해야"
Satya Nadella says we should assume all AI models are 'compromised'
Microsoft CEO Satya Nadella가 X에 긴 글을 올려 고도화된 AI 모델의 위험과 대응 방안을 제시했다. 그는 AI를 조언을 그대로 받아들이거나 거부하는 '중첩된 블랙박스'로 취급해선 안 된다며, 모델을 격리·관찰하고 변조 불가능한 사람이 읽을 수 있는 증거를 남기는 투명한 시스템을 구축해야 한다고 주장했다. 적시 사고 공개, 독립 감사, 검증 가능한 데이터 등 업계의 기존 권고와 궤를 같이하면서도, 그는 모델을 처음부터 compromised로 가정하고 격리하자며 '비상 브레이크'를 강조해 한발 더 나아갔다.
우리는 모델이 compromised되었다고 가정하고 처음부터 격리해야 합니다. 비상 브레이크처럼 생각하면 됩니다. 권한을 가진 사람은 언제든 모델이 작업 중일 때 일시 중지하거나 종료할 수 있어야 합니다.
HN 토론
73- igor47
불행히도 Nadella는 글 전체에서 AI를 "초지능"이라고 부르기도 한다.
이 광대들은 대체 뭐가 문제인 거야? Nadella의 추정 순자산은 약 6억 달러다. 그 정도면 그가 자기 등뼈 하나 살 돈으로는 아직 부족한 건가?
- butwhentho
그렇다면 Copilot이 "compromised"라고 가정해야 하고, 그걸 모든 Microsoft 제품에 억지로 끼워 넣었다면, 확장해서 모든 Microsoft 제품이 compromised라는 뜻인가?
- thih9
https://wallhop.io/https://www.theverge.com/ai-artificial-in...
(wallhop은 아까 hn에서 본 12ft.io 대안이다: https://news.ycombinator.com/item?id=50038634 )
- tbrownaw
뭐 당연하지.
그게 작동한다고 맹목적으로 가정했는데 작동하지 않으면 문제다.
네 프로세스가 작동하지 않는 상황을 감당할 수 있다면, 훨씬 덜 문제다.
- xscott
누군가 Office와 Windows를 바이브 코딩할 거고, 그는 그걸 알고 있다.