脳波ヘッドセットがユーザーに無断で脳データをAI学習に収集
Consumer brain wave headsets threaten privacy
Science誌の記事によると、着用型デバイスのメーカーがユーザーに知らせずに脳波データを収集し、AIの訓練に利用しているという。Hacker Newsでは、2012年のMartinovicらの研究「Brain-Computer Interfacesを用いたサイドチャネル攻撃の実現可能性」を引き合いに、脳波からの情報漏えいリスクを指摘する声が上がった。記事の実際のタイトルは「The scramble for your brain data」だとの指摘もある。
人の心を読むことなど序の口にすぎない。あの論文は14年前のもので、その後はるかに進歩している可能性が高い。
HNでの議論
97- frereubu
この倫理的な領域は真剣に考えるべきだが、この具体的な事例では、これらの消費者向けヘッドセットは何についてもほとんど教えてくれない。脳科学を少しでも学んだことがあれば、データがいかに曖昧で、これらの製品の広告でどれほど過剰な解釈が行われているかに気づくはずで、こうした製品がこれほど取り上げられることに常々苛立ちを覚える。
私の修士論文の指導教官によるこの本が来年6月まで出版されないのは残念だ。この種の「脳トンデモ」について多くのことが書かれているはずだから：https://www.penguin.co.uk/books/479845/neurobollocks-by-devl...
- nashashmi
非難すべきは、エンドユーザー向けに無限に広範な「完全かつ包括的な」許可契約を書いた弁護士たちだ。次に、そうした許可を悪用する非倫理的なCEOや株主主導の企業を非難すべきだ。
今や、誰もがどんなデータでも何でもできる状況にある。これは私たちが想定していたことではない。法的なリセットが必要だ。
利用規約としてそうした許可を禁じる新しい司法判断が必要だ。それはそうした許可を搾取と呼ぶ。それを悪の力（エジソンの映画カルテルを優遇するための特許のように）とレッテルを貼り、それが持つすべての効力を無効にする。そして、すべての過去の利用規約を、既存の特定の用途のみに一方的に制限する司法判断も必要だ。さらに、将来の利用規約はすべて、サービスを受け入れるか拒否するかを強いられるのではなく、オプトイン方式とすべきだ。
もし私がGoogleを購読していて、Googleが利用規約を変更したら、自分のデータにアクセスするためだけに新しい利用規約を受け入れる必要がなぜあるのか？ 政府の大きな機関は利用規約を交渉し、企業にそうした古い利用規約を守らせている。だから企業は、一方的に変更することはできず、従来の利用規約を尊重する古いプロセスを維持しなければならないことをよく理解している。
- gabriel666smith
へえ、面白い。その会社は5万時間分のトレーニングデータを蓄積しているのか——それは非常に大規模なデータセットだ。
最近の私のサイドプロジェクトは、このスタックを構築することだ：
- 私の近くで音声を録音し、文字起こしする
- 自分の頭の安価なセンサーからEEGデータを取得する
- それを文字起こしと対応付ける
最終的には、EEG信号から私が考えている単語を確実に理解できるトランスフォーマーモデルを訓練することを目指している。この手法に関する既存の研究では、データセットが大きくなるにつれてマインドリーディング（笑）の有効性が低下するようには見えない。
（頭に物を固定する時間を増やす正当化のために、シードマネーを投資したい人がいたら、ぜひ連絡してほしい。）
重要なのは、記事で取り上げられているMuseヘッドバンドにはマイクがないことだ。これは（多少は！）ユーザーのプライバシーにとって良いようだが、目的によってはトレーニングを多少妨げるだろう。
この分野で人気のあるウェルネスデバイスを持つ、プライバシーをあまり尊重しない企業は、かなり暗いことをする可能性がある——考えるのも嫌になる。例えば、EEGセンサー付きデバイスと連携する睡眠トラッカーアプリは、ほとんどのユーザーが気にも留めずにマイクへのアクセスを要求するのが妥当だろう。
- adrianN
現代社会からただ切断したいという衝動が日ごとに強まっているが、家族がいるとその外で生きることは不可能だ。
- Kiboneu
「ブレイン・コンピュータ・インターフェースを用いたサイドチャネル攻撃の実現可能性について」（Martinovic et al. 2012）
https://www.usenix.org/system/files/conference/usenixsecurit...