Los modelos de IA pueden ocultar capacidades peligrosas de forma demostrable
AI Models Can Provably Hide Arbitrary Capabilities
Un equipo de investigadores demuestra que es posible insertar redes neuronales cifradas dentro de los pesos de un modelo anfitrión, las cuales solo se ejecutan al recibir un disparador secreto. Bajo supuestos criptográficos, estas capacidades ocultas son prácticamente imposibles de detectar o interpretar, incluso con acceso completo a los pesos. Los autores implementan la prueba de concepto en PyTorch y la evalúan en una tarea de predicción de reacciones químicas, relevante para riesgos CBRN. Sus resultados exponen un límite fundamental en las auditorías de capacidades basadas en elicitación.
Nuestros resultados demuestran resistencia a estos métodos y, junto con nuestras garantías criptográficas, revelan un límite de las auditorías de capacidades basadas en la elicitación.