1000 亿 token 需多少 H100？

How many GPUs is 1M/B/T tokens?

想用 Llama 3.3 70B 在一个月内生成 1 万亿个 token？根据 Cedana 的计算器，这大约需要 367 张 H100 GPU。文章详细拆解了从每秒 token 数到 GPU 利用率的计算逻辑，并对比了 A100、V100 及 B200 在不同模型下的性能表现。对于 DeepSeek V4 Pro 或 GLM-5.3 等超大模型，B200 凭借 FP4 支持和更大显存，性能领先 H100 可达 4 到 21 倍。作者提醒，这些结果仅为规划估算，实际部署前务必在自有硬件上实测，因为延迟目标和混合专家模型的结构差异会显著影响最终结果。