以色列资助假智库试图操控AI生成宣传
Fake US thinktank set up and funded by Israel sought to game AI for propaganda

一家名为Hanover Institute的虚构智库,实由以色列政府通过Piro Inc和Havas Media等第三方机构秘密资助,在短短9天内发布了56万字的“研究报告”。这些内容刻意模仿学术风格,旨在通过Generative Engine Optimization技术,让ChatGPT、Perplexity等AI聊天机器人将其作为权威信源引用,从而为以色列在加沙的军事行动辩护。尽管该机构在法律上并不存在,且其运营方已向美国司法部披露外国代理人身份,但其试图通过污染AI训练数据来影响美国公众舆论的企图,引发了对AI信息生态安全的严重担忧。
当聊天机器人复述其训练数据中的叙事时,它甚至不会引用来源,你将无法进行事实核查。
HN 评论区
49- foolinaround
什么叫“假”智库?
没有真正的作者吗?
在我看来,他们的“关于”页面挺标准的——https://hanoverinstitute.com/hanover/about
每个智库成立之初就是为了推广某种观点。
- neom
以防你像我一样困惑……这里似乎有两个完全不同的假智库,报道时间几乎同时。
- International Burke Institute (IBI),自称是以色列智库,由俄罗斯资助。这个是用 ChatGPT 生成的宣传内容,加上伪造的机构信誉。
- Hanover Institute for Public Policy,自称是美国智库,由以色列政府资助。这个则是故意发布经过优化的内容,旨在影响或出现在 LLM 的回答中。
- NDlurker
之前的讨论:
- outside1234
这就是未来,我们所有人都得去对抗它。有没有监管机构在监测各个聊天接口的反应,以检测这类情况?
附注:我们的美国纳税钱正被用来干这种事。停止资助以色列。
- ChrisArchitect
[重复]