Kann gzip ein Sprachmodell sein?

Can gzip be a language model?

Ein Entwickler zeigt, dass der allgegenwärtige gzip-Kompressor als Sprachmodell dienen kann. Die Idee: Kompression ist Vorhersage. gzip komprimiert Text, der bereits im 32-KiB-Fenster bekannt ist, sehr effizient. Mit einer Beam-Suche über Byte-Sequenzen und einem Korpus als Kontext erzeugt gzipt überraschend kohärente Shakespeare-Fragmente – ganz ohne neuronales Netz oder Training, nur mit Pythons zlib. Der Code ist auf GitHub verfügbar.