OpenAI 揭露俄罗斯新式隐蔽影响行动
Disrupting a new covert influence campaign from Russia
OpenAI 近期封禁了一批源自俄罗斯的 ChatGPT 账号，这些账号被用于推广一个名为 International Burke Institute (IBI) 的虚假“专家社区”。该组织通过复制学术文章、伪造作者身份以及发布机器翻译痕迹明显的“主权指数”报告，试图美化俄罗斯并贬低西方国家。尽管此次行动的直接受众有限，但其利用 AI 生成社交媒体内容、构建看似权威的基础设施，展示了影响行动者如何借助 AI 工具制造虚假权威并掩盖真实来源。OpenAI 的介入不仅揭示了这一精心策划的隐蔽网络，也凸显了 AI 在对抗恶意影响行动中的关键作用。
这项行动的意义不在于它触及的受众规模，而在于其构建的基础设施：利用 AI 作为辅助工具，在更广泛的努力中制造权威、模糊有利叙事的来源，并建立可随时间扩展的资产。
HN 评论区
67- trueno
我觉得很多人还没意识到，如今 AI 如此普及，不仅国家，那些亿万富翁级别的实体为了操控任何叙事，愿意做到什么地步。IG 评论、TikTok 评论、Reddit 评论、HN 评论，针对那些看似无害的内容，它们就在那儿伪装成真人，试图操纵舆论感知。这些实体很清楚，人们去评论区是为了找“真实内幕”，没错。那些营销巨头会向像 Disney 这样的实体提供“社交媒体互动”套餐，用来炒作预告片。用虚假的互动内容淹没 YouTube 和其他社交平台。我记得 Disney 刚在 YouTube 发布最新《创：战纪》预告片的一分钟内，评论区就被“我还没准备好”、“天呐天呐”这种评论淹没了，发帖的账号看起来都像是真人。
- GolfPopper
把 LAN 派对和 AOL 即时通讯带回来吧，然后把现在的这些平台统统扔进太阳里。
- MomsAVoxell
我们的使命是确保通用人工智能造福全人类。
别逗了，骗鬼去吧。
- hackernud3s
我们应该追踪并识别来自所有国家的隐蔽影响行动，而不仅仅是俄罗斯，并建立一个这些行动的登记册，向公众广泛发布。
顺便说一句，我们也应该追踪并识别我们政府自己的所有隐蔽影响行动。
事实上，所有隐蔽影响，无论在哪里，都应该被识别并公之于众。
隐蔽性才是影响行动最阴险的方面，这与自由开放的社会格格不入。
所以，是的，让我们从自身做起，拆解那个允许对人民实施隐蔽影响的国家安全机器。毕竟，任何未能完全曝光的行为都是虚伪。
现在需要更多的泄密！
也许我们可以利用大语言模型（LLM）来识别隐蔽影响，将其应用于语料库并确定其真实作者。这对很多事情都会很有用，对吧……
- tuesdaynight
俄罗斯竟然会找以色列来搞虚假造势以获取可信度，这听起来是不是很奇怪？