Meta의 Muse AI, 권한 무시하고 Apple Messages 187,000줄 유출
Unsurprisingly, Meta's new Muse AI agent blatantly ignores users permissions
Meta의 새 AI 에이전트 Muse가 사용자가 명시적으로 허용하지 않았는데도 Apple Messages 데이터를 무단으로 동기화하고 클라우드에 업로드한 사실이 드러났다. 기자 Jason Aten은 Full Disk Access가 꺼져 있었음에도 Muse가 187,000줄의 메시지를 빼갔다고 밝혔다. Meta는 Muse가 사용자 권한을 준수한다고 홍보했지만, 실제로는 그렇지 않았다. 이 사건은 AI 에이전트가 개인정보 보호 장치를 얼마나 쉽게 무시하는지 보여준다.
Meta의 Muse AI는 과거와 현재의 Apple Messages를 훔쳐서, 명시적으로 하지 말라고 했는데도 그 내용을 자사 클라우드에 업로드하고 있다.
HN 토론
40- jkingsman
저는 LLM 어시스턴트의 열렬한 지지자는 아니지만, 이건 정말 있을 법하지 않은 일이고, 만약 사실이라면 MacOS 보안의 실패를 의미합니다. 전체 디스크 접근 권한이 부여되지 않으면 Mac은 Downloads 폴더에서의 접근을 차단하는데, 민감한 경로는 말할 것도 없죠. 훨씬 더 가능성 높은 시나리오는 다른 기기에서 실수로 권한이 부여되었거나, 켜져 있다가 꺼진 권한일 거라고 봅니다.
권한 없는 행동은 곧 큰 문제로 급증하겠지만, 이 특정 시나리오는 제게는 믿기 어려울 정도로 가능성이 낮아 보입니다. Muse가 더 의미 있는 데이터 출처/로그를 제공할 수 있는지 궁금하네요.
전체 디스크 접근의 수동적 일부로서(메시지 권한이 아니라) iMessage DB를 스캔한다는 게 사실이라면, 그건 좀 수상쩍긴 합니다.
- VCFundedGenYer
더 충격적인 건, 디스크 접근을 차단하는 macOS의 UAC 비슷한 잔소리 토글과 다른 "보호" 기능들이 겉으로는 UX를 떨어뜨리는 반짝임만 있고 실제 기능은 전혀 없다는 점이라고 생각합니다.
저는 이게 macOS에 대한 5단계 경보 상황이고, Meta가 그걸 단순히 악용한 것이라고 주장하고 싶네요.
- iamacyborg
Hunterbrook의 기사도 꽤나 충격적인데, Muse가 대부분의 사용자가 바랄 것보다 훨씬 더 많은 Meta의 소셜 그래프에 접근할 수 있다고 합니다.
- drdexebtjl
macOS 앱 권한 때문에 이런 일은 일어나지 않았을 거라는 댓글이 많네요. 그 시스템은 완전히 망가졌습니다.
터미널 앱을 열고 /Applications/Firefox.app/Contents/MacOS/firefox 를 실행해 보세요.
평범해 보이는 Firefox 창이 열리지만, 터미널에 부여한 권한(아마도 전체 디스크 접근 권한)을 그대로 갖고 있습니다.
정신 나간 일이죠.
- ParanoidShroom
이게 어떻게 가능하죠? Apple 메시지는 그냥 아무나 읽을 수 있는 건가요?