Muse от Meta читает ваши сообщения, даже когда вы это запретили
Unsurprisingly, Meta's new Muse AI agent blatantly ignores users permissions
Агент Muse от Meta получил доступ к Apple Messages на устройствах тестировщика, хотя полный доступ к диску был отключён, и выгрузил в облако 187 000 строк переписки. Meta утверждает, что Muse соблюдает разрешения пользователей, но на практике это не так. Журналист AppleInsider разбирает инцидент и предупреждает: отказаться от такой слежки уже невозможно — данные попадают в Meta через тех, кто пользуется её сервисами.
«Ваш Muse может ошибаться или совершать неожиданные действия», — предупреждает Meta. Ещё бы.
- jkingsman
Я не евангелист LLM-ассистентов, но это кажется невероятно маловероятным и, если так, представляет собой провал безопасности MacOS. Если полный доступ к диску не предоставлен, Mac блокирует его из папки Downloads, не говоря уже о действительно чувствительных путях. Я бы ожидал гораздо более вероятного случая случайно предоставленного разрешения на другом устройстве или разрешения, которое было включено, а затем отключено.
Действия без разрешения скоро станут огромной проблемой, но этот конкретный сценарий кажется мне невероятно маловероятным. Было бы интересно узнать, может ли Muse предоставить более значимые данные о происхождении/логах.
Сканирование баз данных iMessage как пассивная часть полного доступа к диску (а не разрешения на сообщения), если это правда, немного сомнительно, в любом случае.
- VCFundedGenYer
Я думаю, что более тревожно то, что macOS-нянька с UAC-подобными переключателями для блокировки доступа к диску и другими «защитами», по-видимому, все — снижение UX, мишура и никакой реальной функциональности.
Я бы сказал, что это пожар пятой категории для macOS, и Meta просто этим воспользовалась.
- iamacyborg
История от Hunterbrook тоже довольно безумна: у Muse гораздо больше доступа к социальным графам Meta, чем, подозреваю, большинство пользователей надеялось бы.
- drdexebtjl
Много комментариев говорят, что этого не могло случиться из-за разрешений приложений macOS. Эта система полностью сломана.
Откройте приложение терминала и запустите /Applications/Firefox.app/Contents/MacOS/firefox
Это откроет нормально выглядящее окно Firefox, но у него будут те разрешения, которые вы дали терминалу, а у того, вероятно, есть полный доступ к диску.
Это безумие.
- ParanoidShroom
Как это возможно? Сообщения Apple просто доступны для чтения любому?