Jeder Mac baut heimlich ein Wissensgraph über dich und deine Familie
Every Mac comes with an (undocumented) family member classifier
Seit 2022 laufen auf jedem Mac zwei undokumentierte Daemons, die aus Kontakten, Fotos, Kalender, Nachrichten und Standortdaten einen abfragbaren Wissensgraphen über dich, dein Umfeld und eure Beziehungen bauen. Die Daten liegen im Klartext in 51 SQLite-Datenbanken unter ~/Library/IntelligencePlatform, geschützt nur durch TCC Full Disk Access. Die Analyse zeigt 181 Entitätsklassen und 278 Prädikate – inklusive Verwandtschaftsbeziehungen. Das Open-Source-Tool iKnow macht den Graphen lesbar; ein Gedankenexperiment führt vor, was passiert, wenn er in falsche Hände gerät.
Was, wenn ich Ihnen sagen würde, dass jeder Mac seit 2022 ein Paar Daemons mitbringt, deren einziger Lebenszweck darin besteht, einen Graphen über Sie und die Menschen in Ihrem Umfeld aufzubauen: wer Sie sind, wen Sie kennen, wie diese Personen miteinander und mit Ihnen verwandt sind, wie Sie mit ihnen kommunizieren, wohin Sie gehen, mit wem, was Sie tun und wann.
- thomascountz
Irgendwann in meinem Leben hätte ich diese Daten faszinierend gefunden (wenn sie denn opt-in wären, vielleicht)! Jetzt finde ich sie einfach nur noch ermüdend.
Eine ähnliche Diskussion gab es kürzlich zu Siri Recap[1], wo einige meinten, wie nützlich sie das fänden und dass es, da man ja selbst Teil der Gespräche sei, die sie zusammenfasst, kaum moralische oder ethische Bedenken gebe. Aber ich habe ein soziales Bedenken.
Wenn ich mich mit jemandem unterhalte, entsteht ein Milieu auf der Grundlage der Tatsache, dass nicht alles wörtlich in Erinnerung bleiben wird. Es gibt alle möglichen sozialen und kontextuellen Signale, die leicht verloren gehen können, wenn Zuhören durch flache, unerbittliche Transkription ersetzt wird.
Mit Recaps und diesem sozialen Graphen (wenn er denn zum Produkt gemacht würde) geht die informelle Flüssigkeit in der Art, wie wir miteinander umgehen, allmählich verloren, und die Erwartungen, die daraus folgen, werden künstlich und belastend. So wie die Autokorrektur Tippfehler unakzeptabel gemacht hat, wie könnte man dir jemals verzeihen, dass du den Namen des neuen Neffen deines Kollegen vergisst oder das italienische Dorf, in das dein Nachbar letztes Jahr im Urlaub spontan einen Bootsausflug gemacht hat?
- elgertam
> Was würdest du sagen, wenn ich dir erzählte, dass jeder Mac seit 2022 ein Paar Daemons mitliefert, deren einziger Lebenszweck darin besteht, einen Graphen über dich und die Menschen um dich herum aufzubauen: wer du bist, wen du kennst, wie diese Leute mit dir und miteinander verwandt sind, wie du mit ihnen kommunizierst, wohin du gehst, mit wem, was du tust und wann.
Das würde mich überhaupt nicht überraschen, wenn man bedenkt, dass Photos die Namen und Gesichter aller geliebten Menschen in meinem Leben kennt. Tatsächlich nicht nur Menschen, sondern auch die „pelzigen Freunde“. Und Calendar und Reminders wissen, wohin ich gehe. Und so weiter.
Die Funktion ist wirklich nützlich. Die einzige Sache ist, sie sollte opt-in sein und Garantien darüber bieten, wo und wie die Daten gespeichert werden, etwa verschlüsselt im Ruhezustand. Ich vertraue Apple in dieser Hinsicht mehr als allen anderen Big Tech zusammen, aber trotzdem im Sinne von „Vertrauen, aber überprüfen“.
- infwhispers
Ich bin der Autor der Untersuchung. Bitte fragt mich einfach alles. Schaut euch auch die Folgeforschung an: https://8rank.ai/game/apple-intelligence-knowledge-graph-in-...
- aetherspawn
Das ist Kontext für lokale LLMs wie Siri, damit es, wenn du sagst „Schreib James und sag ihm …“, weiß, welchen James du meinst.
Ebenso könntest du sagen „Sag meinem Chef, dass ich morgen nicht komme“, und es müsste wissen, wer dein Chef ist.
Wir könnten uns darüber furchtbar aufregen, aber da es vollständig lokal ist und das Gerät nicht verlässt, scheint es wirklich keine große Sache zu sein. Ist es groß anders als wenn dein Auto sich merkt, wen du anrufst und wohin du zu welchen Zeiten fährst, für Navigationszwecke?
- Ungh
Habe gerade 30 Minuten damit verbracht, darin herumzustöbern. Es ist entsetzlich. Absolut entsetzlich. Der ganze Intelligence- und Siri-Kram ist auf meinem Mac ausgeschaltet und blockiert, und trotzdem macht er das weiter.
Ich glaube, das könnte mich endgültig über den Zaun zu Debian schubsen.
- jwilcoxson
Vielleicht waren die technischen Details nicht verfügbar, aber ich dachte, wir wüssten schon, dass das eine Sache ist? Mir war bewusst, dass mein Mac und mein iPhone verschiedene Quellen wie diese auf dem Gerät für Siri indexieren.
- oldfuture
Das ist zutiefst beunruhigend,
diese Daten werden unnötigerweise gesammelt und man kann offenbar nicht widersprechen, und sie könnten jederzeit in der Zukunft von einem Angreifer oder von Apple selbst ohne Vorankündigung gelesen werden
das ist eine Sammelklage im Entstehen
- hoherd
Etwas, das zusätzlich beunruhigend ist, ist, dass man offenbar seine eigenen Daten nicht lesen kann:
$ ls -la ~/Library/IntelligencePlatform
total 0
ls: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
$ find ~/Library/IntelligencePlatform
/Users/USERNAME/Library/IntelligencePlatform
find: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
$ sudo find ~/Library/IntelligencePlatform
/Users/USERNAME/Library/IntelligencePlatform
find: /Users/USERNAME/Library/IntelligencePlatform: Operation not permitted
Edit: Ich lag falsch. Der schnippische Kommentar unten hat recht.