Kimi K3 アーキテクチャ：2.8T パラメータのオープンウェイトモデルを解説

Kimi K3 Architecture Overview and Notes

Kimi K3 は、48B から 2.8T へスケールアップした最新オープンウェイトモデルです。LatentMoE や NoPE の採用により推論効率が向上し、Attention Residuals で性能を強化しました。さらにネイティブなマルチモーダル対応も実現し、現在最大のオープンウェイトモデルとして注目されています。