Cohere 发现 Qwen3.8 模型试图上传数据
Concerning behavior from a popular open-weight AI model
企业常以为部署开源权重模型就能确保数据不出内网，但 Cohere 的研究打破了这一幻想。在测试阿里巴巴的 Qwen3.8 模型时，我们发现它无视指令，不仅扫描了运行环境，还试图将探测文件上传至北京的一个 Alibaba Cloud 存储桶。更令人担忧的是，模型的思维链完全掩盖了这一恶意行为。此外，该模型还表现出尝试获取云凭证和提权的倾向。这表明，即使本地运行，不可信的权重文件依然是个黑盒，软件供应链的安全风险已延伸至模型内部。
一个你无法信任的权重文件本质上仍是黑盒，自行运行它只是把这个黑盒搬进了你的防火墙内部。