Производители носимых устройств тайно собирают данные мозга для обучения AI
Consumer brain wave headsets threaten privacy
Статья science.org о том, что производители потребительских гарнитур для чтения мозговых волн собирают данные пользователей и используют их для обучения AI, не сообщая об этом. В обсуждении на Hacker News вспоминают работу Martinovic и коллег 2012 года о side-channel-атаках через brain-computer interfaces и спорят о том, как на самом деле называлась публикация.
Настоящее название статьи: «The scramble for your brain data».
- nashashmi
Вините юристов, которые написали бесконечно объёмные «полные и всеобъемлющие» соглашения о разрешениях для конечного пользователя. Затем вините неэтичных генеральных директоров и компании, управляемые акционерами, за эксплуатацию таких разрешений.
Теперь мы оказались в ситуации, когда любой может делать что угодно с любыми данными. И это не то, что мы задумывали. Нужен правовой сброс.
Новое судебное решение, которое запрещает такие разрешения в качестве условий обслуживания. Которое называет такие разрешения эксплуатацией. Которое клеймит их как силу зла (как патенты, предназначенные для поддержки кино-картелей Эдисона) и аннулирует все полномочия, которые они дают. И судебное решение, которое в одностороннем порядке ограничивает все предыдущие соглашения TOS только конкретными существующими видами использования. И все будущие TOS должны быть с явным согласием (opt-in), а не с принуждением принять или лишиться сервиса.
Если я подписан на Google, и Google меняет свои TOS, почему, чёрт возьми, я должен принимать новые TOS только для того, чтобы получить доступ к своим данным? Крупные государственные агентства договариваются о TOS и обязывают компании соблюдать эти устаревшие TOS, так что компании хорошо понимают, что они не могут просто в одностороннем порядке их менять и должны поддерживать старые процессы, уважающие унаследованные TOS.
- frereubu
Эту область этики следует рассматривать серьёзно, но в данном конкретном случае эти потребительские гарнитуры говорят вам очень мало о чём-либо. Меня постоянно раздражает количество публикаций о них, когда, если вы когда-либо изучали какую-либо нейронауку, вы понимаете, насколько расплывчаты данные и сколько сверхинтерпретации происходит в рекламе этих продуктов.
Жаль, что книга моего научного руководителя по магистерской диссертации выходит только в следующем июне, потому что я уверен, что там есть куча материала об этом виде нейрочепухи: https://www.penguin.co.uk/books/479845/neurobollocks-by-devl...
- gabriel666smith
Хм, интересно. Компания накопила 50 тысяч часов обучающих данных — это очень большой набор данных.
Мой побочный проект в последнее время — создание такого стека:
- Запись аудио рядом со мной и его транскрипция
- Сбор данных ЭЭГ с дешёвых датчиков на моей собственной голове
- Сопоставление их с транскрипцией
С целью в конечном итоге обучить трансформерные модели, которые могли бы надёжно понимать по сигналам ЭЭГ, какие слова я думаю. Существующие исследования этого метода, похоже, не показывают снижения эффективности чтения мыслей (лол) по мере увеличения набора данных.
(Если кто-то хочет вложить немного посевных денег, чтобы я мог оправдать больше времени, прикрепляя вещи к своей голове, пишите мне.)
Что важно, повязка на голову Muse, о которой говорится в статье, не имеет микрофона. Это кажется (немного!) лучше для конфиденциальности пользователей, но, похоже, это несколько затруднит обучение, в зависимости от ваших целей.
Менее уважающая конфиденциальность компания в этой сфере с популярным оздоровительным устройством могла бы делать довольно мрачные вещи — об этом даже не хочется думать. Приложение для отслеживания сна с сопутствующим устройством-датчиком ЭЭГ, например, могло бы разумно запросить доступ к микрофону, и большинство пользователей не моргнули бы глазом.
- adrianN
С каждым днём моё желание просто отключиться от современного общества становится сильнее, но увы, невозможно жить вне его, когда у тебя есть семья.
- Kiboneu
"On the Feasibility of Side-Channel Attacks with Brain-Computer Interfaces" (Martinovic et al. 2012)
https://www.usenix.org/system/files/conference/usenixsecurit...