Qwen3-1.7B schreibt auf einer 16-GB-GPU ohne den Buchstaben „e“

Fine-tuned Qwen on my 16gb GPU to respond without the letter e

Kevin Wu brachte Qwen3-1.7B auf einer 16-GB-Grafikkarte bei, alltägliche Fragen ohne den Buchstaben „e“ zu beantworten. Weil das Modell in Tokens statt Buchstaben denkt, scheitert reines Instruieren komplett; eine Token-Maske hebt die Trefferquote auf 26 Prozent, gezieltes SFT mit 180 e-freien Beispielantworten auf 35 Prozent, und RL mit einem GPT-6-Luna-Richter als Belohnung treibt sie weiter. Die Antworten werden sinnvoller, verraten aber gelegentlich das Thema.

Eine Maske entfernt zwar jedes „e“, ganz ohne Training, aber sie bringt dem Modell nicht bei, Wörter zu wählen, die von vornherein auf „e“ verzichten, sodass es sich oft wiederholt oder Wörter falsch schreibt.

Mehr von diesem Tag

2026-10-28