AI模型可被证明隐藏任意能力

AI Models Can Provably Hide Arbitrary Capabilities

AI能力评估通常假设隐藏的功能终能被激发，但这篇论文证明该假设在对抗条件下并不成立。研究人员通过构建后门攻击，将加密的神经网络嵌入主模型权重中，仅在接收到秘密触发器时才会解密并执行。利用数字保险箱技术，这些隐藏电路在密码学假设下被证明极难被提取或解释，即使拥有完整的模型权重。研究团队在PyTorch中实现了概念验证，并通过微调、权重噪声、基于梯度的触发器搜索等方法进行测试，结果显示这些隐藏能力具有极强的抗探测性。这一发现揭示了基于激发的能力审计存在根本性局限，为AI安全研究提出了新的挑战。