Anthropic construye un sistema de vigilancia predictiva para monitorear a activistas
Anthropic Is Building a Predictive Surveillance System to Monitor Activists
Anthropic está desarrollando un sistema de monitoreo para vigilar a activistas que se oponen al desarrollo rápido de la IA, incluyendo predicción de incidentes antes de que ocurran y reportes a la policía. La empresa, que se presenta como la alternativa responsable a OpenAI, busca expandir su equipo de inteligencia y seguridad, mientras enfrenta críticas por posibles violaciones a derechos civiles.
El objetivo sería transformar las operaciones de información reactiva a la recopilación proactiva y predictiva y la gestión preventiva de amenazas.
- cldellow
El editorial en este artículo es bastante llamativo.
Si elimino el editorial, creo que las conclusiones son:
1. Alguien le dijo a Claude que tenía un AR-15 y que el CEO de Anthropic estaba "en su punto de mira". Anthropic lo denunció a la policía.
2. Anthropic tiene contrato con una agencia de seguridad.
3. Anthropic busca desarrollar capacidad interna para seguridad.
Está claro que Anthropic tiene objetivos de alto valor (véase, por ejemplo, la persona con el AR-15 del punto 1). Cuando trabajé en Microsoft en los años 2000, también tenían seguridad interna para investigar amenazas contra instalaciones y ejecutivos.
Creería que Anthropic está haciendo cosas malvadas, pero no creo que este artículo realmente afirme eso, a pesar de la grandilocuencia sobre "precrimen".
- palmotea
Recuerden, chicos: ¡Anthropic son los buenos! ¡Les importan la moral, la alineación y la seguridad! ¡Así que esta vigilancia invasiva para aplastar la disidencia debe ser buena para nosotros!
La IA es el sueño de un autoritario. ¡El futuro es brillante! ¡El querido líder Dario nos llevará allí!
- slowin
> “Estoy de acuerdo en que el público tiene una visión negativa de la IA (y que esto es un gran problema), pero no creo que sea causado principalmente por mí o por cualquier otro líder de IA que advierta sobre los riesgos de la IA”, escribió el CEO de Anthropic, Dario Amodei, en Twitter el mes pasado. “Creo que es fundamentalmente una crisis de confianza… Creo que la gente común no confía en las empresas, los gobiernos o la industria tecnológica y siempre sospecha que estamos tramando alguna nueva forma de joderlos”.
Lo dice el tipo que está creando un aparato de vigilancia global de precrimen. ¡Me pregunto por qué la gente no confía en él!
- vaylian
> “Esa hora extra fue crítica. Sin ella, nuestros ejecutivos habrían salido de sus reuniones y habrían ido directo al corazón de la perturbación”.
> [..] “Lo que podría haber sido una situación de mucho estrés”,
¿Una protesta democrática es ahora una situación de mucho estrés?
- woah
Perdón por arruinar la fiesta aquí, pero ¿esto es diferente de la seguridad que tiene cualquier gran corporación?
La anécdota del titular trata de que redirigieron a los ejecutivos alrededor de una protesta basándose en información de un permiso presentado públicamente.
La otra anécdota trata de que reportaron a un usuario que hizo una amenaza de muerte.
- hyperbolablabla
No puedo esperar a que el gobierno del Reino Unido empiece a condenar a disidentes por precrimen
- smalltorch
No queda claro en el artículo si esto es una ingesta masiva de todo el uso de internet o simplemente dentro de sus propias plataformas.
- bilekas
> El CEO de Anthropic, Dario Amodei, escribió en Twitter el mes pasado. “Creo que es fundamentalmente una crisis de confianza… Creo que la gente común no confía en las empresas, los gobiernos o la industria tecnológica y siempre sospecha que estamos tramando alguna nueva forma de joderlos”.
Están tan cerca de ser conscientes de sí mismos...