Kimi K3.1 Pro abre sus pesos: 2,8 billones de parámetros y un millón de tokens de contexto
Kimi K3.1 Pro model weights are out
Moonshot AI publica en Hugging Face los pesos abiertos de Kimi K3.1 Pro, un modelo agéntico nativamente multimodal de arquitectura Mixture-of-Experts con 2,8 billones de parámetros totales y 104.000 millones activados. Entrenado con aprendizaje por refuerzo conjunto en cientos de dominios, presume de una ventana de contexto de un millón de tokens y mejoras en programación, creación 3D, investigación financiera y precisión factual. En varios benchmarks agénticos supera a Claude y GPT-6 Astra.
En comparación con Kimi K3, sustituimos las capas Gated MLA de atención completa por capas Gated DeepSeek Sparse Attention (Gated DSA) para un modelado de contexto largo más eficiente.