Каждый Mac с 2022 года тайно строит граф о вашей семье и знакомых
Every Mac comes with an (undocumented) family member classifier
Исследователи из 8rank разобрали два демона Apple Intelligence, которые с macOS 26 хранят в ~/Library/IntelligencePlatform пятьдесят одну базу SQLite. Главная — graph.db: триплеты из 181 класса сущностей и 278 предикатов, собранные из Contacts, Photos, Calendar, Messages, Mail, геолокации и Screen Time. Среди связей — работодатель, родство и даже возраст членов Family Sharing. Авторы выложили дашборд iKnow и показали, как утечка такого графа вместе с abliterated LLM превращается в оружие.
А что, если бы я сказал вам, что каждый Mac начиная с 2022 года поставляется с парой демонов, единственная цель жизни которых — строить граф о вас и окружающих вас людях: кто вы, кого вы знаете, как эти люди связаны с вами и друг с другом, как вы с ними общаетесь, куда ходите, с кем, что делаете и когда.
- thomascountz
В какой-то момент моей жизни эти данные показались бы мне увлекательными (если бы это было с согласия пользователя, возможно)! Теперь же я нахожу это утомительным.
Похожее обсуждение недавно возникло вокруг Siri Recap[1], где некоторые высказывались о том, насколько это полезно, и что, как участник разговоров, которые он суммирует, они не видят особых моральных или этических проблем. Но у меня есть социальная озабоченность.
Если я общаюсь с кем-то, вокруг этого общения выстраивается среда, основанная на том, что не всё будет запомнено дословно. Существуют всевозможные социальные и контекстуальные сигналы, которые легко теряются, если слушание заменяется плоской безжалостной расшифровкой.
С Recap и этим социальным графом (если бы его превратили в продукт) неформальная текучесть в том, как мы относимся друг к другу, начинает исчезать, а ожидания, которые из этого следуют, становятся искусственными и обременительными. Подобно тому, как автокоррекция сделала опечатки неприемлемыми, как вас вообще простят за то, что вы забыли имя нового племянника коллеги или итальянскую деревню, куда ваш сосед спонтанно отправился на лодке во время отпуска в прошлом году?
- elgertam
> Что если бы я сказал вам, что каждый Mac с 2022 года поставляется с парой демонов, единственная цель жизни которых — строить граф о вас и окружающих вас людях: кто вы, кого вы знаете, как эти люди связаны с вами и друг с другом, как вы общаетесь с ними, куда вы ходите, с кем, что вы делаете и когда.
Я бы ничуть не удивился, учитывая, что Photos знает имена и лица всех близких в моей жизни. Причём не только людей, но и «пушистых друзей». А Calendar и Reminders знают, куда я хожу. И так далее.
Функция действительно полезная. Единственное — она должна быть с согласия пользователя и иметь гарантии относительно того, где и как хранятся данные, например, шифрование в состоянии покоя. Я доверяю Apple в этом больше, чем всей остальной Big Tech вместе взятой, но всё же в духе «доверяй, но проверяй».
- infwhispers
Я автор этого исследования. Пожалуйста, задавайте любые вопросы. Также посмотрите последующее исследование: https://8rank.ai/game/apple-intelligence-knowledge-graph-in-...
- aetherspawn
Это контекст для локальных LLM вроде Siri, чтобы когда вы говорите «Напиши Джеймсу и скажи ему…», она знала, какого Джеймса вы имеете в виду.
Точно так же вы могли бы сказать «Скажи моему боссу, что я завтра не приду», и ей нужно было бы знать, кто ваш босс.
Мы могли бы сильно злиться по этому поводу, но, учитывая, что всё полностью локально и не покидает устройство, это действительно не кажется большой проблемой. Разве это сильно отличается от того, что ваша машина запоминает, кому вы звоните и куда ездите в какое время для целей навигации?
- Ungh
Только что потратил 30 минут, копаясь в этом. Это ужасает. Абсолютно ужасает. Все функции Intelligence и Siri отключены и заблокированы на моём Mac, но он всё равно это делает.
Думаю, это может наконец подтолкнуть меня перейти на Debian.
- oldfuture
Это глубоко тревожно,
эти данные собираются без необходимости, и, по-видимому, от этого невозможно отказаться, и они могут быть прочитаны в любой момент в будущем злоумышленником или самой Apple без уведомления.
Это тянет на коллективный иск.
- hoherd
Ещё одна тревожная деталь: вы, по-видимому, не можете прочитать собственные данные:
$ ls -la ~/Library/IntelligencePlatform
total 0
ls: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
$ find ~/Library/IntelligencePlatform
/Users/USERNAME/Library/IntelligencePlatform
find: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
$ sudo find ~/Library/IntelligencePlatform
/Users/USERNAME/Library/IntelligencePlatform
find: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
Редактирование: я ошибался. Язвительный комментарий ниже прав.
- zaptheimpaler
Я всё ещё оптимистичен в том, что Apple будет делать всё это на вашем устройстве, а не в непрозрачном облаке где-то, где у вас нулевая видимость. У Meta, вероятно, такая система в 1000 раз больше где-то в хранилище данных. Если эта информация не покидает устройство, меня это устраивает.