웨어러블 기기 업체들, 사용자 몰래 뇌파 데이터로 AI 학습시킨다
Consumer brain wave headsets threaten privacy
소비자용 뇌파 헤드셋 제조사들이 사용자에게 알리지 않고 뇌 데이터를 수집해 AI 학습에 활용하고 있다는 science.org 보도가 Hacker News에서 논의됐다. 댓글에서는 2012년 Martinovic 등의 뇌-컴퓨터 인터페이스 부채널 공격 연구를 소환하며, 14년이 지난 지금 기술이 그 이상으로 진화했을 수 있다는 우려가 나왔다. 원문 제목이 "The scramble for your brain data"라는 지적도 이어졌다.
사람의 마음을 읽는 것은 시작에 불과하다. 그 논문은 14년 전 것이고, 그들은 아마 그보다 훨씬 앞서 나갔을 것이다.
HN 토론
97- frereubu
이 윤리 영역은 진지하게 고려되어야 하지만, 이 특정 사례에서 이런 소비자용 헤드셋은 그 어떤 것에 대해서도 아주 적은 정보만 알려줍니다. 신경과학을 조금이라도 공부해본 적이 있다면 이 데이터가 얼마나 모호한지, 그리고 이런 제품 광고에서 얼마나 많은 과잉 해석이 이루어지는지 알게 되기에, 이런 제품들이 받는 보도량에 항상 좌절감을 느낍니다.
제 석사 논문 지도교수님이 쓰신 이 책이 내년 6월까지 나오지 않는다는 게 아쉽네요. 분명히 이런 종류의 신경 헛소리(neurobollocks)에 관한 내용이 많이 들어 있을 테니까요: https://www.penguin.co.uk/books/479845/neurobollocks-by-devl...
- nashashmi
끝없이 방대한 "완전하고 포괄적인" 동의 약관을 작성한 변호사들에게 책임을 물어야 합니다. 그런 다음 그런 동의 권한을 악용하는 비윤리적인 CEO와 주주 중심 기업들에게 책임을 물어야 합니다.
이제 우리는 누구든 어떤 데이터로든 무엇이든 할 수 있는 상황에 와 있습니다. 그리고 이것은 우리가 생각했던 것이 아니었습니다. 법적 리셋이 필요합니다.
이런 동의 권한을 서비스 약관으로서 금지하는 새로운 사법 판결이 필요합니다. 그런 동의 권한을 착취라고 규정하는 판결이요. 그것들을 악의 세력(에디슨의 영화 카르텔에 유리하게 작용하도록 의도된 특허들처럼)으로 낙인찍고, 그것들이 지닌 모든 효력을 무효화하는 판결이요. 그리고 모든 기존 TOS 계약을 단지 특정한 기존 용도로만 제한하도록 일방적으로 제한하는 사법 판결이 필요합니다. 그리고 모든 미래의 TOS는 서비스 제공을 강제로 받아들이거나 거부해야 하는 방식이 아니라 옵트인 방식이어야 합니다.
제가 Google에 가입했는데 Google이 TOS를 변경한다면, 제 데이터에 접근하기 위해 왜 새로운 TOS를 받아들여야 합니까? 거대 정부 기관들은 TOS를 협상하고 기업들이 그 오래된 TOS를 준수하도록 강제하여, 기업들이 일방적으로 변경할 수 없다는 것과 기존 TOS를 존중하는 이전 프로세스를 유지해야 한다는 것을 잘 이해하게 합니다.
- gabriel666smith
흠, 흥미롭네요. 그 회사는 5만 시간의 훈련 데이터를 모았습니다. 그것은 매우 큰 데이터셋입니다.
최근 제 사이드 프로젝트는 이 스택을 구축하는 것이었습니다:
- 제 주변의 오디오를 녹음하고 전사하기
- 제 머리에 있는 저렴한 센서에서 EEG 데이터를 수집하기
- 그것을 전사 내용과 매핑하기
궁극적으로는 EEG 신호로부터 제가 생각하는 단어를 안정적으로 이해할 수 있는 트랜스포머 모델을 훈련시키는 것을 목표로 합니다. 이 방법에 대한 기존 연구들은 데이터셋이 커져도 마인드 리딩(ㅋㅋ)의 효능이 떨어지는 것처럼 보이지 않습니다.
(제 머리에 물건을 더 많이 묶어두는 데 시간을 더 쓸 명분을 얻기 위해 시드 머니를 투자하고 싶은 분이 있다면 연락 주세요.)
중요한 것은, 기사에서 언급된 Muse 헤드밴드에는 마이크가 없다는 점입니다. 이것은 (약간!) 사용자 프라이버시에 더 좋아 보이지만, 목표에 따라 훈련을 다소 방해할 것 같습니다. 이 분야에서 인기 있는 웰니스 기기를 가진 프라이버시를 덜 존중하는 회사는 꽤 어두운 일을 할 수 있습니다. 생각하기도 싫은 일이죠. 예를 들어, EEG 센서 기기가 함께 제공되는 수면 추적 앱은 대부분의 사용자가 눈 하나 깜짝하지 않고 마이크 접근을 요청할 수 있습니다.
- adrianN
매일 현대 사회에서 그냥 단절하고 싶은 충동이 더 강해지지만, 안타깝게도 가족이 있으면 그 밖에서 살 수는 없습니다.
- Kiboneu
"뇌-컴퓨터 인터페이스를 이용한 부채널 공격의 실현 가능성" (Martinovic et al. 2012)
https://www.usenix.org/system/files/conference/usenixsecurit...