Qwen3-1.7B aprende a responder sin la letra ‘e’ en una GPU de 16 GB

Fine-tuned Qwen on my 16gb GPU to respond without the letter e

Kevin Wu fine-tuneó Qwen3-1.7B en su GPU de 16 GB para que respondiera sin usar la letra ‘e’. El reto es difícil porque los LLM leen tokens, no letras. Primero probó SFT con ejemplos sin ‘e’ y luego RL con un juez que puntúa coherencia y relevancia. Con una máscara que bloquea tokens con ‘e’, el modelo pasó de 0% a 26% de respuestas usables, y tras SFT y RL alcanzó un 35%.

El modelo no puede ver directamente si algo contiene una ‘e’, porque lee texto en tokens y no en palabras.

Más de este día

2026-10-28