El espacio J revela vectores de dirección a partir de simples tokens

Extracting Steering Vectors from J space

Un experimento con Qwen3-1.7B muestra que el espacio jacobiano (J lens) puede generar vectores de dirección para comportamientos simples como escribir en mayúsculas, invirtiendo los tokens correspondientes. Para comportamientos complejos como el rechazo, el método se vuelve frágil y propenso a alucinaciones. El autor compara los vectores obtenidos con los de métodos tradicionales como abliteration y steering vectors ajustados, encontrando que el enfoque basado en J space funciona bien para lo simple pero falla en lo complejo.