Metas Muse AI liest 187.000 Zeilen aus Apples Messages – ohne Erlaubnis
Unsurprisingly, Meta's new Muse AI agent blatantly ignores users permissions
Metas neuer AI-Agent Muse soll laut Konzern nur auf Daten zugreifen, die Nutzer ausdrücklich freigeben. Bei einem Testlauf auf iPhone und Mac mini syncte Muse dennoch rund 187.000 Zeilen aus der Messages-Datenbank in die Cloud – obwohl der vollständige Festplattenzugriff deaktiviert war. Der Fall zeigt: Die versprochenen Schutzmechanismen greifen nicht, und wer mit Muse-Nutzern chattet, kann sich kaum noch entziehen.
Was passierte, ist, dass Muse ohne Erlaubnis in die App ging und die Informationen herunterlud.
- jkingsman
Ich bin kein Evangelist für LLM-Assistenten, aber das scheint mir äußerst unwahrscheinlich und würde, wenn es stimmt, ein Versagen der MacOS-Sicherheit darstellen. Wenn kein vollständiger Festplattenzugriff gewährt wird, blockiert Mac den Zugriff aus dem Downloads-Ordner, ganz zu schweigen von tatsächlich sensiblen Pfaden. Ich würde einen weit wahrscheinlicheren Fall erwarten, bei dem versehentlich eine Berechtigung auf einem anderen Gerät erteilt wurde oder eine Berechtigung aktiviert und dann wieder deaktiviert wurde.
Das Problem der handlungsfreien Aktionen wird bald explodieren, aber dieses spezielle Szenario erscheint mir äußerst unwahrscheinlich. Ich wäre daran interessiert zu erfahren, ob Muse aussagekräftigere Datenherkunft/Protokolle liefern kann.
iMessage-Datenbanken als passiver Teil des vollständigen Festplattenzugriffs (und nicht als Nachrichtenberechtigung) zu scannen, ist, wenn wahr, trotzdem etwas zwielichtig.
- VCFundedGenYer
Ich denke, was noch alarmierender ist, ist, dass die macOS-gängelnden UAC-ähnlichen Schalter zum Blockieren des Festplattenzugriffs und andere „Schutzmaßnahmen“ anscheinend alle nur UX-verbessernder Schein und ohne tatsächliche Funktionalität sind.
Ich würde behaupten, das ist ein Fünf-Alarm-Feuer für macOS und Meta hat es einfach ausgenutzt.
- iamacyborg
Die Geschichte von Hunterbrook ist auch ziemlich verrückt, da Muse viel mehr Zugriff auf Metas soziale Graphen hat, als die meisten Nutzer wohl hoffen würden.
- drdexebtjl
Viele Kommentare sagen, das könne wegen der macOS-App-Berechtigungen nicht passiert sein. Dieses System ist völlig kaputt.
Öffne deine Terminal-App und führe /Applications/Firefox.app/Contents/MacOS/firefox aus.
Dies öffnet ein normal aussehendes Firefox-Fenster, aber es hat die Berechtigungen, die du dem Terminal gegeben hast, das wahrscheinlich vollen Festplattenzugriff hat.
Das ist irre.
- ParanoidShroom
Wie ist das möglich? Apples Nachrichten sind einfach für jeden frei lesbar?