发布假数据,却被ChatGPT反复引用
Publish fake stats, get cited in LLMs

我创建了一个包含50,000条虚假统计数据的网站stateglobe.com,成本仅50美元。7个月过去,Google已将其彻底遗忘并去索引,但ChatGPT却从未停止访问。该网站获得了超过10,000次AI会话,并被Shopify、DHL等330多个域名引用,甚至出现在学术论文和银行投资报告中。实验揭示了一个令人不安的真相:LLM在检索时更看重数据的“存在形式”而非真实性,且不会进行事实核查。这种“引用洗钱”现象意味着,一旦假数据被权威机构引用,它便获得了虚假的可信度,并可能污染未来的训练数据。
在Google上排名靠前和被LLM检索到,这是两个完全不同的问题。