AMD、AIチップ新興Taalasを買収——モデルをシリコンに焼き付け推論性能を10倍以上に

AMD acquires Taalas to boost inference performance by etching models in silicon

AMDは、モデルの重みをシリコンに直接焼き付けるAIチップ新興企業Taalasを買収した。同社の技術は、HBMを使わずにモデル専用集積回路（MSIC）を実現し、Llama 3.1 8Bを毎秒16,960トークンで処理するなど、従来のGPU比で最大48倍の推論性能を達成。第2世代チップでは200億パラメータに対応し、AMDのInstinctベースのラックシステムと組み合わせる計画だ。ただし、モデルを変更するにはチップの再製造が必要で、特定モデルへの長期コミットが前提となる。