OpenAI desbarata una campaña de influencia rusa que usaba ChatGPT para crear un falso think tank
Disrupting a new covert influence campaign from Russia
OpenAI ha bloqueado una red de cuentas de ChatGPT vinculadas a Rusia que promovían el International Burke Institute (IBI), un falso think tank con sede declarada en Israel. La operación, que incluía un sitio web con artículos académicos copiados y mal atribuidos, un índice de soberanía que favorecía a Rusia y esfuerzos por ocultar el origen ruso, es la primera de este tipo vinculada a Rusia que OpenAI interrumpe. Aunque el alcance fue limitado, la elaborada infraestructura revela cómo la IA puede usarse para fabricar autoridad y encubrir narrativas.
Esto ilustra cómo los actores de influencia pueden usar la IA como herramienta de apoyo dentro de un esfuerzo más amplio para fabricar autoridad, oscurecer el origen de las narrativas favorecidas y establecer activos que podrían escalarse con el tiempo.
- trueno
Creo que mucha gente no se da cuenta de hasta dónde están dispuestos a llegar no solo los estados-nación, sino también las entidades billonarias para controlar cualquier narrativa ahora que la IA es tan accesible. Comentarios en IG, TikTok, Reddit, HN, en contenido aparentemente inofensivo, simplemente ahí intentando parecer reales y manipular la percepción. Estas entidades son muy conscientes de que la gente va a los comentarios y a las discusiones buscando "la verdad real" y sí. Los gigantes del marketing ofrecen paquetes de "engagement en redes sociales" a entidades como Disney para impulsar el hype de los tráilers. Inundan YouTube y otras redes con engagement falso en contenido. Recuerdo que en el primer minuto de que Disney lanzara el último tráiler de Tron en YouTube, estaba absolutamente inundado de comentarios del tipo "no estoy listo" "omggggg" de perfiles de YouTube que parecían reales.
Traigan de vuelta las LAN parties, AOL Instant Messenger y tiren las plataformas actuales al sol.
- GolfPopper
>Nuestra misión es asegurar que la inteligencia artificial general beneficie a toda la humanidad.
Cuéntame otra. Esa tiene campanillas.
- MomsAVoxell
Deberíamos rastrear e identificar todas las campañas de influencia encubiertas, de todos los estados, no solo de Rusia, y recopilar un registro de estos esfuerzos para su amplia distribución pública.
También deberíamos rastrear e identificar todas las campañas de influencia encubiertas de nuestro propio gobierno, ya que estamos.
De hecho, toda influencia encubierta, en todas partes, debería ser identificada y hecha pública.
Es la naturaleza encubierta de la influencia lo que la hace más insidiosa, incompatible con una sociedad libre y abierta.
Así que sí, empecemos por casa desmantelando el aparato de seguridad nacional que permite que se ejerza influencia encubierta contra el Pueblo. Después de todo, cualquier cosa menos una exposición total es hipocresía.
¡Más filtraciones ahora!
Quizás haya una aplicación de los LLM para identificar influencia encubierta, que podamos aplicar a un corpus e identificar su verdadera autoría. Esto sería bastante útil para muchas cosas, ¿eh?
- tuesdaynight
La gente se sentiría incómoda si se expusiera realmente la verdad sobre cuánta influencia tienen los estados-nación en el discurso en línea hoy en día. No me refiero solo a bots, sino a cuántos influencers políticos reciben dinero de adversarios, de todo el espectro, sin que ellos mismos sepan quién les paga. Los estadounidenses se sentirían como los países de LATAM, que están acostumbrados a ser fuertemente influenciados por países externos.
- hackernud3s
¿No les parece extraño que Rusia recurra a Israel para dar credibilidad de astroturfing?