Israel financió un falso think tank para manipular a la IA y a los chatbots
Fake US thinktank set up and funded by Israel sought to game AI for propaganda

El Instituto Hanover, un sitio web falso con apariencia de think tank, publicó más de 560,000 palabras en nueve días con el objetivo de influir en las respuestas de los chatbots de IA. Financiado por el gobierno israelí a través de intermediarios como Havas Media, el sitio presentaba informes con citas académicas para dar credibilidad a sus argumentos. El análisis de The Guardian revela que la estrategia buscaba que los modelos de IA citaran estos contenidos, incluso mediante la inclusión en repositorios de datos de entrenamiento. El proyecto, que también incluyó una campaña en redes sociales, ha sido criticado por funcionarios israelíes que lo consideran un fracaso.
“Cuando regurgita narrativas en las que el chatbot fue entrenado, ni siquiera citará las fuentes; no podrás verificarlo”.
- foolinaround
¿Qué hace que un think tank sea falso?
¿No hay autores reales?
La página 'Acerca de' me parece bastante estándar - https://hanoverinstitute.com/hanover/about
Todos los think tanks siempre se han establecido para promover algún punto de vista.
- neom
Por si acaso estabas tan confundido como yo... Parece que hay dos think tanks falsos completamente diferentes, reportados casi simultáneamente.
- International Burke Institute (IBI), afirma ser un think tank israelí, financiado por Rusia. Este es promoción generada por ChatGPT + credibilidad institucional falsa.
- Hanover Institute for Public Policy, afirma ser un think tank estadounidense, financiado por el gobierno israelí. Este publica deliberadamente material optimizado para influir/citar en las respuestas de LLM.
- NDlurker
Discusión anterior
- outside1234
Este es el futuro y todos debemos trabajar en contra de ello. ¿Hay vigilantes que midan la respuesta de cada una de las interfaces de chat para detectar esto?
PD. Nuestros dólares de impuestos de EE. UU. se están utilizando para hacer esto. Desfinanciar a Israel.
- ChrisArchitect
[duplicado]
Discusiones: https://news.ycombinator.com/item?id=49337392