2022년 이후 모든 Mac에는 당신의 가족 관계를 추론하는 비공개 분류기가 숨어 있다
Every Mac comes with an (undocumented) family member classifier
Apple Intelligence의 knowledgeconstructiond와 intelligenceplatformd 데몬이 Contacts, Photos, Messages, Mail, 위치 데이터 등을 교차 분석해 181개 엔티티 클래스와 278개 술어로 구성된 개인 지식 그래프를 기기에 구축한다. 이 그래프는 문서화가 거의 없으며, 가족 관계까지 추론한다. 연구진은 이를 열람하는 오픈소스 대시보드 iKnow를 공개하고, 이 데이터가 악용될 경우의 위험도 짚는다.
2022년 이후 모든 Mac에는 당신과 주변 사람들에 대한 그래프를 만들기 위해 존재하는 두 데몬이 함께 제공된다.
HN 토론
238- thomascountz
한때는 이 데이터가 흥미롭게 느껴졌을 시절도 있었습니다(물론 옵트인 방식이라면 말이죠)! 하지만 지금은 그저 지칩니다.
최근 Siri Recap[1] 관련해서도 비슷한 논의가 있었는데, 어떤 분들은 그게 얼마나 유용한지, 그리고 요약되는 대화의 당사자로서 도덕적·윤리적 우려는 거의 없다고 말했습니다. 하지만 저는 사회적 우려가 있습니다.
누군가와 대화를 나눌 때, 모든 것이 그대로 기억되지는 않는다는 사실을 전제로 형성되는 분위기가 있습니다. 듣는 것이 무미건조하고 집요한 받아쓰기로 대체되면 쉽게 사라질 수 있는 온갖 사회적·맥락적 단서들이 있습니다.
Recap과 이 소셜 그래프(제품화된다면)로 인해 우리가 서로 관계 맺는 방식의 비공식적 유연성이 사라지기 시작하고, 그로 인해 따라오는 기대치들이 인위적이고 부담스러워집니다. 자동 교정이 오타를 용납할 수 없게 만든 것과 마찬가지로, 동료의 새 조카 이름이나 이웃이 작년 휴가 중 즉흥적으로 보트 여행을 갔던 이탈리아 마을 이름을 잊었다고 해서 어떻게 용서받을 수 있겠습니까?
- elgertam
> 2022년 이후 모든 Mac에, 당신과 주변 사람들에 관한 그래프를 만드는 것만이 유일한 존재 목적인 데몬 두 개가 탑재되어 있다고 하면 어떨까요? 당신이 누구인지, 누구를 아는지, 그 사람들이 당신과 서로 어떻게 관계되어 있는지, 그들과 어떻게 소통하는지, 어디로 가는지, 누구와 함께, 무엇을 언제 하는지 말이죠.
전혀 놀랍지 않을 겁니다. Photos가 제 인생의 모든 사랑하는 사람들의 이름과 얼굴을 알고 있으니까요. 사실 사람뿐만 아니라 "털복숭이 친구들"까지요. 그리고 Calendar와 Reminders는 제가 어디로 가는지 압니다. 등등요.
이 기능은 정말로 유용합니다. 다만 옵트인이어야 하고, 데이터가 어디에/어떻게 저장되는지에 대한 보장(예: 저장 시 암호화)이 있어야 합니다. 저는 다른 모든 빅테크를 합친 것보다 Apple을 더 신뢰하지만, 그래도 "신뢰하되 검증하라"는 방식입니다.
- infwhispers
저는 이 연구의 저자입니다. 무엇이든 편하게 질문해 주세요. 또한 후속 연구도 확인해 보세요: https://8rank.ai/game/apple-intelligence-knowledge-graph-in-...
- aetherspawn
이건 Siri 같은 로컬 LLM을 위한 맥락입니다. 그래야 "James에게 문자 보내서 …라고 전해"라고 말할 때 어떤 James를 의미하는지 알 수 있으니까요.
마찬가지로 "상사에게 내일 못 간다고 전해"라고 말할 수 있고, 그러려면 당신의 상사가 누구인지 알아야 합니다.
이걸 두고 엄청 화낼 수도 있겠지만, 완전히 로컬이고 기기를 떠나지 않는다는 점을 보면 별로 큰 문제는 아닌 것 같습니다. 자동차가 내비게이션 목적으로 당신이 누구에게 전화하고 언제 어디로 가는지 기억하는 것과 크게 다를까요?
- Ungh
방금 30분 동안 이걸 살펴봤습니다. 끔찍하네요. 정말 끔찍합니다. 제 Mac에서는 모든 인텔리전스와 Siri 관련 기능이 꺼져 있고 차단되어 있는데도 여전히 이걸 하고 있습니다.
이번 일이 마침내 제가 Debian으로 넘어가게 만드는 결정적 계기가 될 것 같습니다.
- jwilcoxson
기술적 세부 사항이 없었을 수도 있지만, 우리가 이미 이게 있다는 걸 알고 있었다고 생각했습니다? 제 Mac과 iPhone이 Siri를 위해 기기 내에서 이런 다양한 소스를 인덱싱하고 있다는 건 알고 있었습니다.
- oldfuture
이건 심히 우려스럽습니다.
이 데이터는 불필요하게 수집되고 있고, 보아하니 옵트아웃이 불가능하며, 미래의 어느 시점에 공격자나 Apple 자체가 예고 없이 읽을 수도 있습니다.
이건 진행 중인 집단 소송감입니다.
- hoherd
추가로 우려스러운 점은 당신이 자기 데이터조차 읽을 수 없다는 것 같다는 겁니다:
$ ls -la ~/Library/IntelligencePlatform
total 0
ls: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
$ find ~/Library/IntelligencePlatform
/Users/USERNAME/Library/IntelligencePlatform
find: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
$ sudo find ~/Library/IntelligencePlatform
/Users/USERNAME/Library/IntelligencePlatform
find: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
수정: 제가 틀렸습니다. 아래의 비꼬는 댓글이 맞습니다.