GLM 5.3-flash 发布，我们只剩一年修补安全漏洞
We have a year to fix security everywhere
随着 GLM 5.3-flash 的发布，低成本、高性能且无安全限制的 AI 模型已可被任何人本地部署。这意味着恶意攻击者能利用这些模型自动寻找并利用漏洞，而无需人类干预。尽管 Project Glasswing 和 Daybreak 等项目正在利用前沿模型修复漏洞，但真正的挑战在于补丁的部署。我们正面临前所未有的窗口期：攻击能力正以指数级增长，而防御体系却难以跟上。如果不在未来一年内彻底修复行业内的安全漏洞，关键基础设施将面临被自动化攻击瘫痪的风险。
我们现在正处于一个网络安全攻击可以在 for 循环中运行的世界。
HN 评论区
357- kennywinker
我不明白大家为什么担心 LLM 会回答“如何制造土制炸弹”这类问题。这些信息在其他地方很容易就能找到。《无政府主义者烹饪书》已经存在并流传了 55 年，但土制炸弹并没有在我们周围到处爆炸。
- sho
> 9 月 22 日，Apple 将发布配备 256 GB 统一内存的 M5 Mac Studio [..] 它应该 [..] 能在 3 秒内写出这段代码
作者显然从未在 Mac 上运行过 LLM！3 秒后，它可能才刚刚开始思考是否要安排一个约会，去琢磨处理你提示词中第二个 token 的时间规划。
- archi42
Zzzzz，我们本应在几十年前就把安全做好。但安全需要花钱，又不是能吸引新客户的炫酷功能，或者如果你是做实体产品或提供服务的“正经”生意，它还会侵蚀你的利润。或者说，柏林的决策者们在忽视安全时脑子里在想什么。
是的，我们仍然会看到黑客攻击，但如果安全不是可选项，我们看到的攻击会少得多。
也许 AI 热潮能通过迫使更多决策者将安全视为当务之急，并为我们工具箱里增加一个强大的工具，从而带来帮助。
注：我在安全行业工作，我们的客户显然希望提升安全性。我们确实看到了意识的提升，但这主要归功于 NIS2 和其他立法努力。是这些法规迫使他们采取行动。对许多客户来说，AI 只是闲聊时的谈资。
- pmlnr
这里有个想法：作为第一步，简化一切，确保你了解你的技术栈是如何工作的，以及它引入了什么。
举个例子：WordPress 是个糟糕的东西，但其核心经历了太多锤炼，反而意外地安全。然后插件和主题来了，嗖的一下，安全性就没了。
我们需要一个新的 KISS：Keep It Simple, Stupid, Secure（保持简单、愚蠢、安全）。
- anon373839
> GLM 5.3-flash 上周发布，这意味着 Project Glasswing 和 Daybreak 的时间不多了。廉价且能进行危险黑客攻击的模型现在对任何人开放，且没有通常用于拒绝恶意行为的保障措施。我们需要修复整个行业的漏洞，以免措手不及。……我们可以利用那些比人类更快的前沿 LLM，在剩余的时间里发现并修复这些问题。
我觉得作者把因果关系搞反了。在我所处的时间线里，是前沿模型在对第三方发动攻击，而中国的开源模型在负责防御！在 Huggingface 事件中，HF 被禁止使用前沿模型来抵御入侵，但幸运的是他们转而使用了自托管的 GLM-5.2 实例。而且它确实完成了任务。
- simonw
我觉得我们甚至没有一年时间。当前这批 LLM 在识别漏洞方面已经极其出色了。
- rbtms
当然，在更强大的模型问世之前减少影响面很重要，但令人担忧的是，有些人似乎认为对抗这些模型的唯一方法就是使用更多的 AI 模型。尽管这些模型（显然）很擅长发现漏洞，但它们也非常擅长在不知不觉中引入漏洞。
- aenis
我觉得我们剩下的时间更少，唯一的限制就是运行此类黑客攻击的实际成本。这看起来不贵，但也不是免费的，而且需要扫描的东西实在太多了。
模型已经就位，你可以租用 GPU 集群来高速运行此类工作负载——没必要在缓慢的本地机器上折腾。我假设你可以在一个意想不到的公有云提供商那里托管推理，将网络流量代理到某些僵尸网络以规避封锁——剩下的只有时间和成本。
我很好奇，对于那些无聊的、合法的公司来说，有什么工具能让它们对自己的系统做同样的事情，以便在坏人之前发现漏洞？这里的悖论是，我无法使用黑客所用的相同工具来运行一个解除限制的中文模型——但我认为企业实际上必须这样做，才有机会为即将到来的冲击做好准备。
- mentalgear
网络安全加固只剩一年了，我也这么认为。问题在于，即使我们完成了：一年后，模型在社会工程学方面将变得如此出色，以至于它们无论如何都能提取到想要的任何信息。如果有任何基于证据的论点能证明我错了，我很乐意看到。
编辑：我所说的社会工程学是指，例如：侦察公司结构，从暗网收集并合并人员数据，然后利用这些数据贿赂/施压/欺骗用户。
- saimiam
这听起来在“你需要立刻修复你的烂摊子，无论它在哪里”的复杂度上，大致与 Y2K 相当，只不过对于你的代码库来说，每一天都是 Y2K。