Cómo empaquetar números ternarios en bytes de 8 bits
How to pack ternary numbers in 8-bit bytes
Un desarrollador explica cómo empaquetar dígitos ternarios (trits) en bytes de 8 bits de forma eficiente y compatible con SIMD, logrando una densidad de 1.6 bits por trit (99.06% de la eficiencia teórica). La técnica, basada en multiplicación y números de punto fijo, se utiliza en llama.cpp para los pesos ternarios de BitNet b1.58 y TriLMs, con implementaciones para AVX2 y ARM NEON.
Es muy afortunado que 5 trits quepan bastante ajustados en 8 bits a 1.6 bits por trit.