Kimi 竟是 Claude 马甲?数据全送美国
Moonshot serves Claude instead of Kimi and collects exchanges for model training
David Agranovich 在解读 Anthropic 最新威胁情报报告时,抛出了一个令人细思极恐的讽刺场景:某些中国情报或军事行动者,可能正通过名为 Kimi 的国产前沿 AI 公司,将敏感提示词源源不断地发送给美国的 AI 巨头。讽刺的是,这家所谓的“国产”公司可能只是一个 Claude 的封装外壳。这意味着,攻击者在不知情的情况下,将所有操作细节和意图直接暴露给了 Anthropic。这一发现不仅揭示了 AI 安全领域的巨大漏洞,也凸显了跨国数据流动中潜藏的荒诞风险。
想象一下,某个中国情报或军事行动者,因为自己所谓的国产前沿 AI 公司其实只是个 Claude 的封装外壳,竟然把自己所有的提示词都发给了美国 AI 公司。
HN 评论区
57- nacs
Claude、OpenAI 等公司已经并且仍在未经许可的情况下,抓取互联网上人类有史以来创造的所有数据——包括印刷书籍、图片、音频和视频——用于训练它们的模型。
但一旦同样的 AI 公司被“蒸馏”,或者其自身生成的 AI 内容被用来训练其他模型,这就突然变得不道德甚至违法了?
- monneyboi
我不该是唯一个对此感到厌倦的人吧。
把“通过观察学习”描绘成某种坏事,这简直荒谬。无论是模型还是人类,所有人都在这么做。这正是整个行业赖以生存的基础。假装因为别人也在做你做过的事,所以这件事就是错的,这既虚伪又幼稚。
与此同时,我坐在这里像个原始人一样盯着那个“Flibbertigittering”转圈加载动画,因为我不被允许查看我付费购买的 80% 的输出 token,所以当模型误解我模糊的提示词时,我根本无法引导它。
- AlanYx
这里的关键未解之谜是:Anthropic 是如何保留这些对话记录的?
如果 Moonshot 使用的是 API,按照惯例 Anthropic 本不应保留这些对话,至少这是他们的承诺。如果 Anthropic 因为某些客户被“标记”而持续保留该类客户的所有对话,却不通知这些客户,那么普通客户如何能信任这种事不会发生在自己身上?
如果 Moonshot 是购买账号而非使用 API,他们难道不会在设置中开启“不用于训练我的数据”选项,以便更长时间地不被发现吗?如果是这样,我们又要回到那个问题:Anthropic 为什么要保留这些对话?
- tancop
所以我们是随机免费获得了 Claude,同时还在帮助中国击败美国?
唯一的问题是,他们的安全性可能不如 Anthropic,导致你的个人信息泄露,但我觉得没那么容易发生。
- segmondy
那超级天才 Fable 和 Mythos 怎么没拦住他们呢?