Los auriculares que leen ondas cerebrales recopilan datos sin avisar a los usuarios
Consumer brain wave headsets threaten privacy
Los fabricantes de dispositivos portátiles están recolectando datos cerebrales de los usuarios para entrenar modelos de IA sin informarles, según Science. La discusión en Hacker News recuerda un estudio de 2012 sobre ataques de canal lateral con interfaces cerebro-computadora y debate si el titular original, «The scramble for your brain data», se cambió al publicarse.
Leer la mente de alguien es solo el principio; ese artículo tiene 14 años y probablemente han avanzado mucho más allá.
- nashashmi
La culpa es de los abogados que redactaron acuerdos de permisos "completos y exhaustivos" infinitamente extensos para el usuario final. Luego la culpa es de los CEOs sin ética y de las empresas impulsadas por los accionistas por explotar dichos permisos.
Ahora estamos en una situación en la que cualquiera puede hacer cualquier cosa con cualquier dato. Y esto no era lo que pensábamos. Hace falta un reinicio legal.
Un nuevo fallo judicial que prohíba dichos permisos como sus términos de servicio. Que califique dichos permisos como explotación. Que los etiquete como una fuerza del mal (como las patentes pensadas para favorecer a los carteles cinematográficos de Edison) e invalide todos los poderes que ostentan. Y un fallo judicial que limite unilateralmente todos los acuerdos de TOS anteriores a ser solo para usos específicos existentes. Y que todos los TOS futuros sean opt-in, en lugar de verse forzado a aceptarlos o quedarse sin servicio.
Si me suscribo a Google, y Google cambia sus TOS, ¿por qué demonios debería aceptar unos TOS nuevos solo para acceder a mis datos? Las grandes agencias gubernamentales negocian los TOS y obligan a las empresas a cumplir esos TOS obsoletos, para que las empresas entiendan bien que no pueden cambiarlos unilateralmente y deben mantener procesos antiguos que respeten los TOS heredados.
- frereubu
Esta área de la ética debería tomarse en serio, pero en este caso concreto estos auriculares de consumo te dicen muy poco sobre nada. Me frustra constantemente la cantidad de cobertura que reciben cuando, si alguna vez has estudiado cualquier tipo de neurociencia, te das cuenta de lo vago que es realmente el dato y de cuánta sobreinterpretación hay en la publicidad de estos productos.
Es una lástima que este libro de mi supervisor de tesis de máster no salga hasta el próximo junio, porque estoy bastante seguro de que hay un montón de cosas ahí sobre este tipo de neurobobadas: https://www.penguin.co.uk/books/479845/neurobollocks-by-devl...
- gabriel666smith
Vaya, interesante. La empresa ha acumulado 50 000 horas de datos de entrenamiento; eso es un conjunto de datos muy grande.
Un proyecto secundario mío recientemente ha sido construir este stack:
- Grabar audio en mi proximidad y transcribirlo
- Obtener datos de EEG de sensores baratos en mi propia cabeza
- Mapearlos contra la transcripción
Con vistas a entrenar eventualmente modelos transformer que puedan entender de forma fiable, a partir de señales de EEG, qué palabras estoy pensando. Los estudios existentes sobre este método no parecen mostrar ningún descenso en la eficacia para leer la mente (jaja) a medida que el conjunto de datos se hace más grande.
(Si alguien quiere invertir algo de capital semilla para que pueda justificar pasar más tiempo atándome cosas a la cabeza, que me escriba.)
Fundamentalmente, la diadema Muse de la que habla el artículo no tiene micrófono. Esto parece (¡ligeramente!) mejor para la privacidad del usuario, pero parece que dificultaría el entrenamiento en cierta medida, dependiendo de tus objetivos.
Una empresa menos respetuosa con la privacidad en este espacio con un dispositivo de bienestar popular podría hacer cosas bastante oscuras; realmente no merece la pena pensarlo. Una app de seguimiento del sueño con un dispositivo sensor de EEG complementario, por ejemplo, podría solicitar razonablemente acceso al micrófono sin que la mayoría de los usuarios parpadeara.
- adrianN
Cada día mi impulso de desconectarme de la sociedad moderna se hace más fuerte, pero ay, es imposible vivir fuera de ella cuando tienes familia.
- Kiboneu
"On the Feasibility of Side-Channel Attacks with Brain-Computer Interfaces" (Martinovic et al. 2012)
https://www.usenix.org/system/files/conference/usenixsecurit...