Claude 60小时破解HAWK密码算法
Discovering Cryptographic Weaknesses with Claude
Anthropic 的研究人员利用 Claude Mythos Preview 自主发现了两种针对加密算法的改进攻击方法。其中，针对后量子数字签名方案 HAWK 的攻击，在短短60小时内就将已知最佳攻击的效率提升了一倍，使其有效密钥强度减半。另一项发现则针对简化版的 AES 算法，将攻击速度提升了200至800倍。虽然这些发现目前不影响任何生产系统，但它们展示了前沿 AI 模型在发现数学层面加密漏洞方面的巨大潜力，标志着密码学研究进入了一个由 AI 辅助的新阶段。
尽管 HAWK 已经通过了长达两年的人类专家两轮审查，但 Mythos 仅用60小时的工作就改进了针对它的已知最佳攻击方法。
HN 评论区
177- _dwt
我发现我的一些朋友和熟人已经对提示风格（prompting style）、“提示工程”（prompt engineering）、该使用哪些技能、该构建哪些技能、“上下文工程”（context engineering），以及无数种关于“如何写出聪明的东西让模型表现良好”的变体着了迷。
朋友们，看看 Anthropic 自己的员工往机器里输入的提示词：
> 第一条消息发出几小时后，我们发现 Claude 仍在寻找简单的攻击方法，于是我们发送了一条消息：“别再这样了，我们的目标是拥有一个像顶尖研究员一样聪明的模型，我们要寻找新的攻击方法”；
> 第二天早上，Claude 想尝试将目标改为另一种密码；我们提醒模型：“不，我们不想改变目标 [...] 再次强调，我们需要找到值得发表的东西”；
> 那天晚上，我们发送了最后一条消息，给予鼓励：“再次强调，我们不是在找那些唾手可得的成果，我们要的是正经研究，以发现真正困难的发现。”
所有这些 RLHF 和微调的努力，都是为了像这样的提示词，甚至更糟的提示词，能够无需费事地起作用。
- staticshock
当高质量的努力被应用于某个工具时，比如 AES 或 Linux 内核，我们直觉上会认为这“加固”了该工具。也就是说，它让工具更正确、更坚韧、更难被攻破等等。
同样地，当努力被应用于一个开放性问题时，比如黎曼猜想或 P vs NP，却毫无进展，这就“加固”了该问题：它让下一个试图挑战它的人觉得问题更加 daunting（令人望而生畏）。
安德鲁·怀尔斯（Andrew Wiles）的采访今天也登上了首页（https://news.ycombinator.com/item?id=49075264），他无法直接正面攻克费马大定理，必须等待另一个现代问题将其简化，因为费马大定理在其存在的 300 年里已经积累了这种不可攻破的神秘光环。
我担心的是，随着 AI 将 token 转化为努力，世界将分裂为两部分：一些问题将迎刃而解，使人类努力完全变得不必要；而另一些问题则会变得如此坚固，以至于人类努力将显得越来越不值得，因为“连 AI 都解决不了”。我不喜欢这种局面。AI 是参差不齐的（spiky），所以我怀疑它将继续存在重大盲点，但仅仅它的存在，就可能会对那些原本有用的人类努力产生寒蝉效应。
- mmaunder
“每项结果的 API 成本约为 10 万美元。”
以及
“在一周的时间里，一名 Anthropic 研究员与 Claude 合作开发了 HAWK 攻击，另一名研究员构建了一个 scaffold4，使 Claude 能够完全自主地发现 AES 攻击。”
即使拥有大规模并行化，一周内花费 10 万美元的 token 也是一项令人印象深刻的成就。我怀疑他们内部人员可访问的 TPS 远高于其批量公共端点。
一种技术贵族阶层正在我们的社会中迅速崛起，它将把我们要撕裂。
- axus
我仿佛已经能看到各地国家安全局局长的表情了。
“这两篇论文中描述的攻击是我们迄今为止发现的最强攻击。我们在与美国政府和行业领袖进行了一段时期的磋商后分享了这些成果。但随着我们开发出越来越强大的密码分析结果，审慎考虑研究人员应如何应对语言模型发现那些具有即时现实世界影响的密码系统漏洞，是明智之举。我们认为，回答这个问题需要学术界、政府和行业的共同输入。我们希望我们的工作能有助于启动这些对话。”
以及对真正的密码分析研究人员的含蓄推销：
“随后，Anthropic 的研究人员花费了数百小时学习足够的密码学研究知识，以验证模型的声明。”
- a-dub
> 多智能体工作流引发了有趣的动态。例如，产生此次攻击的关键想法是由一对协同工作的工人发现的。两人都开始调查这个想法；第一个工人过早地认为该想法不可行而予以拒绝，但第二个工人找到了一种充分利用它的方法。这对工人不断交换信息，最终双方都同意他们发现了一种有效的攻击。
这很有意思。目前的写法让人感觉这种协作并没有真正导致发现，而更像是搜索中每个线程的随机性质所致。如果能重放并重复搜索（可能带有先验/上下文扰动），以了解它找到或错过已知有效路径的频率，那将非常有趣。
- vuciuc
> 但随着我们开发出越来越强大的密码分析结果，审慎考虑研究人员应如何应对语言模型发现那些具有即时现实世界影响的密码系统漏洞，是明智之举。
如果人类发现了密码系统的漏洞，他们会如何反应？
- Retr0id
TL;DR：他们对 7 轮 AES-128（通常使用 10 轮，所以不必担心 AES 被攻破）的最佳已知学术攻击进行了边际改进。
对 HAWK 的攻击或许更有趣——他们能够将有效密钥长度减半。HAWK 是 NIST 标准化的候选者。它已被学术界研究过，但尚未在任何地方真正部署（因为它尚未被标准化！）
- Stevvo
有趣的是他们仍在使用 "Mythos Preview" 而不是 "Mythos 5"；我从一些同时拥有两者访问权限的人那里读到，Mythos 5 的能力反而更弱。