AIモデルは任意の能力を証明可能な形で隠せる

AI Models Can Provably Hide Arbitrary Capabilities

危険な能力を配備前に検出する評価手法は、隠された能力が引き出せるという前提に依存している。本研究は、暗号化されたニューラルネットワークをホストモデルの重みに埋め込み、秘密のトリガーでのみ復号・実行するバックドア攻撃を構築。digital lockerを用いることで、モデル重みへの完全なアクセスがあっても、隠された回路は暗号学的仮定の下で引き出しも解釈も証明可能に困難であることを示す。PyTorchで概念実証を実装し、化学反応予測タスクでファインチューニング、重みノイズ、勾配ベースのトリガー探索、潜在敵対的訓練による引き出しを評価した結果、これらの手法への耐性が確認され、引き出しベースの能力監査の限界が明らかになった。