Hersteller von Brain-Wave-Headsets sammeln Hirndaten, um KI zu trainieren – ohne die Nutzer zu informieren
Consumer brain wave headsets threaten privacy
Hersteller tragbarer Brain-Wave-Headsets ernten einer Untersuchung von Science zufolge die Hirndaten ihrer Nutzer, um damit KI-Modelle zu trainieren – oft ohne diese darüber zu informieren. In der Hacker-News-Diskussion verweist ein Kommentator auf eine Studie von Martinovic et al. aus dem Jahr 2012 über Side-Channel-Angriffe auf Brain-Computer-Interfaces und warnt, die Forschung sei in den 14 Jahren seither weit fortgeschritten.
Das Gedankenlesen ist erst der Anfang – die Arbeit ist 14 Jahre alt, und man ist inzwischen wahrscheinlich weit darüber hinaus.
- frereubu
Dieser Bereich der Ethik sollte ernsthaft betrachtet werden, aber in diesem speziellen Fall sagen dir diese Consumer-Headsets so gut wie nichts über irgendetwas. Ich bin ständig frustriert über die Menge an Berichterstattung, die sie bekommen, denn wenn man jemals irgendeine Art von Neurowissenschaft studiert hat, erkennt man, wie vage die Daten tatsächlich sind und wie viel Überinterpretation in der Werbung für diese Produkte stattfindet.
Es ist schade, dass dieses Buch von meinem MSc-Dissertationsbetreuer erst im nächsten Juni erscheint, denn ich bin mir ziemlich sicher, dass darin eine Menge Zeug über diese Art von Neurobollocks steht: https://www.penguin.co.uk/books/479845/neurobollocks-by-devl...
- nashashmi
Gib den Anwälten die Schuld, die unendlich ausführliche „vollständige und umfassende“ Erlaubnisvereinbarungen für den Endnutzer geschrieben haben. Dann gib den unethischen CEOs und aktionärsgetriebenen Unternehmen die Schuld, die solche Erlaubnisse ausnutzen.
Jetzt sind wir in einer Situation, in der jeder mit beliebigen Daten alles machen kann. Und das war nicht, was wir uns gedacht haben. Es braucht einen rechtlichen Neustart.
Ein neues Gerichtsurteil, das solche Erlaubnisse als AGB verbietet. Das solche Erlaubnisse als Ausbeutung bezeichnet. Das sie als eine Kraft des Bösen brandmarkt (wie die Patente, die Edisons Filmkartelle begünstigen sollten) und alle Machtbefugnisse, die sie innehaben, für ungültig erklärt. Und ein Gerichtsurteil, das einseitig alle früheren AGB-Vereinbarungen auf nur spezifische bestehende Verwendungen beschränkt. Und alle zukünftigen AGBs auf Opt-in statt auf erzwungene Annahme oder Dienstverweigerung festlegt.
Wenn ich Google abonniere und Google seine AGB ändert, warum zum Teufel sollte ich neue AGB akzeptieren, nur um Zugang zu meinen Daten zu bekommen? Große Regierungsbehörden verhandeln AGBs und halten die Unternehmen an diese veralteten AGBs, damit die Unternehmen gut verstehen, dass sie sie nicht einfach einseitig ändern können und ältere Prozesse beibehalten müssen, die Alt-AGBs respektieren.
- gabriel666smith
Hm, interessant. Das Unternehmen hat 50.000 Stunden Trainingsdaten angesammelt – das ist ein sehr großer Datensatz.
Ein Nebenprojekt von mir war kürzlich, diesen Stack aufzubauen:
- Audio in meiner Nähe aufnehmen und transkribieren
- EEG-Daten von billigen Sensoren auf meinem eigenen Kopf holen
- Sie gegen die Transkription abgleichen
Mit dem Ziel, irgendwann Transformer-Modelle zu trainieren, die aus EEG-Signalen zuverlässig verstehen könnten, welche Wörter ich denke. Die bestehenden Studien zu dieser Methode scheinen keinen Wirkungsabfall beim Gedankenlesen (lol) zu zeigen, je größer der Datensatz wird.
(Wenn jemand etwas Startkapital investieren möchte, damit ich rechtfertigen kann, mehr Zeit damit zu verbringen, mir Dinge an den Kopf zu schnallen, meldet euch gerne.)
Entscheidend ist, dass das Muse-Stirnband, über das der Artikel spricht, kein Mikrofon hat. Das scheint (leicht!) besser für die Privatsphäre der Nutzer zu sein, aber es scheint das Training etwas zu behindern, je nach Zielsetzung.
Ein weniger datenschutzfreundliches Unternehmen in diesem Bereich mit einem beliebten Wellness-Gerät könnte ziemlich dunkle Dinge tun – darüber nachzudenken ist kaum auszuhalten. Eine Schlaftracker-App mit dazugehörigem EEG-Sensorgerät zum Beispiel könnte vernünftigerweise Mikrofonzugriff anfordern, ohne dass die meisten Nutzer mit der Wimper zucken.
- adrianN
Jeden Tag wird mein Drang, mich einfach von der modernen Gesellschaft zu trennen, stärker, aber leider ist es unmöglich, außerhalb von ihr zu leben, wenn man eine Familie hat.
- Kiboneu
"On the Feasibility of Side-Channel Attacks with Brain-Computer Interfaces" (Martinovic et al. 2012)
https://www.usenix.org/system/files/conference/usenixsecurit...