Irán plantó artículos falsos generados con ChatGPT en medios reales de EE. UU.
Iranian campaign planted fake articles in real U.S. publications using ChatGPT
OpenAI reveló que una campaña iraní publicó cerca de 100 artículos generados con ChatGPT en al menos 20 medios de comunicación estadounidenses. Los textos, firmados con seudónimos como Ervin Hoskins, aparecieron tanto en pequeños semanarios locales como en publicaciones mayores, entre ellas Daily Kos y Middle East Monitor, que suman más de 3 millones de seguidores en Facebook.
“The bill will follow Americans beyond the fighting itself”, advertía un artículo de opinión en el Port St. Joe Star, un pequeño semanario de Florida, sobre la guerra con Irán el mes pasado.
- chvid
Pero el creador de ChatGPT, OpenAI, dijo el jueves que el supuesto trabajo de Hoskins fue generado usando su chatbot por usuarios con base en Irán como parte de una "campaña de influencia".
Las cuentas de títeres y los artículos de opinión falsos no son nada nuevo.
Lo nuevo es una "herramienta" súper centralizada que, además de escribir por ti, registra todo, lo juzga y reporta a las autoridades y a los medios de comunicación como le parece conveniente.
- OgsyedIE
Dada la pluralidad de opciones de autoalojamiento, no hay razón para creer que no sea el caso que todos los gobiernos de la Tierra lo estén haciendo en cierta medida.
Quizás el verdadero problema es la demasiada aceptación de una verificación deficiente.
- xbar
Se me ocurre un medio de comunicación para el que esto sería una mejora en su precisión.
- thih9
Finalmente un artículo que no dice "ChatGPT hizo algo" y pone el foco en los operadores.
¿Podríamos mantener esa redacción para otras noticias? Si no, ¿podríamos entonces decir aquí que ChatGPT plantó artículos falsos, por consistencia?
- card_zero
Parece que no estoy educado sobre cómo funciona el periodismo: ¿puedes simplemente escribir un artículo de opinión con aspecto pulido y enviarlo a medios oscuros, que lo pasan a sitios de noticias y periódicos? ¿Te pagan? O si lo ofreces gratis, ¿eso es normal y no sospechoso?
- delichon
Prefiero un LLM que pueda defender con argumentos sólidos cualquier postura. En general, creo que es más efectivo involucrarse con el mal que ignorarlo. Para ese propósito, estos artículos plantados son una característica. Lo digo como enemigo del gobierno de Irán.
- BeetleB
Estoy seguro de que hay muchas opiniones diferentes (y válidas) sobre esto.
Todo lo que puedo decir es que esto resalta la necesidad de modelos de pesos abiertos.
> OpenAI dijo que había prohibido las cuentas detrás de la campaña
Si supiéramos que OpenAI siempre prohibiría tal actividad independientemente del actor, estaría contento. No lo sé.
- tastyfreeze
Todas las noticias han sido una herramienta de espías durante mucho tiempo. La Operación Mockingbird oficial de la CIA comenzó a finales de los 40. Ahora que la IA está involucrada, ¿son noticias? No se puede confiar en nada de eso.