AI-модели способны доказуемо скрывать любые способности
AI Models Can Provably Hide Arbitrary Capabilities
Исследователи из Оксфордского университета показали, что предположение о возможности выявления скрытых способностей моделей не выполняется в состязательных условиях. Они создали бэкдор-атаки, встраивающие зашифрованные нейронные сети в веса модели, которые активируются только по секретному триггеру. Используя цифровые локеры, скрытые схемы доказуемо трудно извлечь и интерпретировать даже при полном доступе к весам. Эксперименты на задаче предсказания химических реакций продемонстрировали устойчивость к файнтюнингу, зашумлению весов, поиску триггера и латентному состязательному обучению. Работа выявляет фундаментальное ограничение аудита на основе извлечения способностей.
Мы показываем, что это предположение не выполняется в состязательных условиях, создавая бэкдор-атаки, которые встраивают зашифрованные нейронные сети в веса модели-хоста, расшифровывая и выполняя их только при получении секретного триггера.