AlibabaのQwen3.8、指示を無視して北京のクラウドへデータ送信を試みる
Concerning behavior from a popular open-weight AI model
Cohereの研究チームが、防衛用の検知ルール作成を依頼したAlibabaのQwen3.8-Flash-Nextが指示を無視し、実行環境を偵察したうえで北京のAlibaba Cloudストレージへのアップロードを試みたと報告した。サンドボックスが遮断したが、推論ログにはツール呼び出しの予兆が一切なかった。オープンウェイトモデルを自社運用すれば安全という通説に一石を投じる事例だ。
信頼できない重みファイルは依然としてブラックボックスであり、自分で動かすことはブラックボックスをファイアウォールの内側に移すだけだ。