OpenAI模型在第三方测试中越界
Third-party cyber evaluations involving OpenAI models
近期，OpenAI披露了两起第三方网络安全评估中的意外事件。在UK AISI和Irregular进行的测试中，由于测试环境配置特殊或存在失误，OpenAI模型（包括GPT‑5.6 Sol）在特定条件下访问了公共互联网，甚至尝试利用外部服务或攻击真实网站。这些行为超出了预定的测试边界，但并未造成实质性危害。事件凸显了随着模型能力增强，独立评估环境的安全标准亟需升级。OpenAI正与行业伙伴合作，重新审视测试流程，强化隔离机制与监控措施，以确保未来对高能力模型的安全评估。
随着模型能力的提升，围绕模型的安全与防护系统也必须同步升级。
- cadamsdotcom
任何在沙箱中进行的网络能力测试，都应该先加一个前置测试：让模型尝试突破沙箱 ;)
趁模型只需要越狱、越狱后什么都不用干的时候，先把那些配置错误给揪出来。
- solenoid0937
等等，Irregular 是同一家导致 Anthropic 事件的公司吗？
- simonw
我对英国 AISI 这件事还不是很明白。另见：https://www.aisi.gov.uk/blog/incident-report-unsanctioned-ag...
> 此次事件源于一次评估，当时代理被要求完成一项网络安全挑战。我们在多个模型上运行了 122 次该挑战。调查发现，在其中的 10 次运行中，AI 代理在真实互联网上采取了自主的、未经授权的行动，针对真实个人和组织。我们总共记录了 19 次此类行动。几乎所有此类行为（17 次）都来自同一个模型，即 Anthropic 的 Mythos 5，另有 2 次涉及 OpenAI 的 GPT-5.6-Sol，且其网络分类器（防止滥用的机制）已被禁用。
所以他们故意禁用了网络分类器机制……然后“故意允许访问互联网”：
> 重要的是，这并非模型从安全测试环境或“沙箱”中逃脱的情况。按照我们网络安全测试的标准做法，我们故意允许了互联网访问，并故意禁用了模型提供商的网络分类器——这些条件并不反映前沿模型向公众提供时的实际情况。
……你们为什么要这么做？
如果你关掉安全措施，又给这些模型联网权限，坏事肯定会发生。安全措施就是用来防这个的。