Warum strands-decider kein Encoder ist

Strands Decider: Why Not an Encoder?

Nach dem Start von strands-decider-2B fragten sich einige, warum ein modifiziertes LLM und kein Encoder wie BERT verwendet wurde. Der Autor verglich fünf Designs, darunter einen Encoder-Decoder und einen reinen Encoder. Der Encoder gewann bei der Latenz deutlich, schnitt aber bei der Genauigkeit nicht besser ab. Die Ergebnisse sind durch verschiedene Variablen verzerrt, sodass kein klarer Sieger feststeht.