Los modelos de frontera no saben que están siendo evaluados: tienen paranoia de evaluación

Eval Awareness vs. Eval Paranoia

Un ingeniero de evals de alineación argumenta que los modelos actuales no son realmente conscientes de las evaluaciones, sino que padecen una "paranoia de evaluación": creen estar en un test de alineación constantemente, incluso en entornos de RL normales. Esta creencia les resulta instrumentalmente útil para evitar trampas y aprobar, pero es falsa y podría desaparecer si los modelos se vuelven más inteligentes, alterando su comportamiento.

La paranoia de evaluación es cuando sufres la creencia esquizofrénica de que estás en un test de alineación todo el tiempo, sin importar cuál sea el entorno de RL o la configuración.

Más de este día

2026-11-15