Moonshot AI 发布全球首个 3T 级开源模型 Kimi-K3
Kimi-K3 Releases on HuggingFace 7/27
Moonshot AI 即将推出下一代前沿模型 Kimi-K3，这是全球首个 3T 级别的开源模型。该模型基于 Kimi Delta Attention 和 Attention Residuals 构建新架构，原生支持工具调用、浏览及多步规划等智能体能力。其扩展的上下文窗口专为理解仓库级代码而设计，旨在解决长周期编程、知识工作和复杂推理任务。Moonshot AI 承诺将在此页面公开模型权重，用户只需点击关注即可在发布时收到通知。
K3 是 Moonshot AI 推出的下一代开源前沿模型，也是全球首个 3T 级别的模型，专为长周期编程、知识工作和推理任务设计。
HN 评论区
17- NitpickLawyer
这事儿有几个点挺有意思。首先，取决于第三方服务商的定价最终会落在什么价位，这将揭示运行一个 3T 模型的成本。由于它是原生 mxfp4 格式，托管它需要约 1.5TB 的显存，这刚好卡在 8 张 b200 的极限（但 realistically 为了上下文和吞吐量优化，你实际上需要 16 张）。托管成本肯定不低，但至少我们能得到一个 3T 模型的每百万 token 成本（$/MTok）的范围。之后我们就能估算一下“实验室是否在补贴 API 定价中的 token 成本”。
另外，看看微调这个庞然大物需要多大功夫也很有趣。最新的 AISI 网络安全基准测试将其排在 glm5.2 之上，但仍远远落后于 SotA 闭源模型。这里可能需要进行一些微调。此外，看看 Cursor 是否会针对它再进行一轮训练，以便直接与 kimi2.6/2.7 的微调版本（composer 系列）以及 grok4.5 进行对比，也很有意思。
再补充一点，看看是否有人会对它进行蒸馏（真正的蒸馏，即训练整个分布），将其转化为更小的模型。（dsv4-kimi 应该会非常棒，因为 dsv4 的托管成本很低）
- MeProtozoan
我觉得大多数运行 LLM 的硬件对于个人用户来说，形态都不对。
要么是在统一内存上挣扎，每秒只能跑出 5-10 个 token；要么是拥有数百 GB 显存的数据中心级显卡，功耗却超过 1kW。似乎并没有那种 TDP 在 180W-250W 左右、显存却有 128GB 或 256GB 的准专业级 GPU（虽然可以做个梦）。然后如果有双卡互联（bifurcation），哪怕只是两张这样的卡也会很有用（尽管 NVLink 或等效技术需要普及）。
显然，没有极其强悍的家庭实验室和烧不完的钱，没人能本地运行 Kimi K3，但能以单会话约 100 tokens/秒、N 个子代理约 60 tokens/秒的速度运行 GLM 5.2 还是挺酷的。
真遗憾。
- dilliwal
我们已经知道，自 6 月 16 日（1.5 个月前）发布以来，竞争已将 GLM 5.2 的价格降低了约 45%，而且价格下行趋势可能还在继续（我一直在定期检查，新服务商不断在价格上厮杀，我认为价格尚未企稳）。参考：https://openrouter.ai/z-ai/glm-5.2#providers
我在其他评论中看到过类似“服务商不能低于成本定价”的论点。在经济学中，通常公认的是他们不应低于边际成本定价，即在这种情况下，大致是电力成本，因为很多数据中心在显卡使用率上并未达到满负荷（这是推测，因为在某些服务商那里租几小时显卡非常容易）。我的猜测是，由于竞争激烈且“小型”数据中心存在过剩产能，很快就会有人以低于“电力 + 显卡折旧”的价格出售 token。这是推测，如果我错了请纠正我。
- storus
在我看来，下一步是在保持智能的同时减少推理 token 的消耗。思维链（Chain of Thought）和循环问题在这些中国模型中仍然是一个痛点。他们确实说过 K3 在这方面会有改进，但这仍然是一个不幸的问题，稍微削弱了 token 成本上的优势。OpenAI 在这方面做得真的很出色，处于这个光谱的另一端。
- walrus01
鉴于 Kimi K3 的前沿级能力，我在想是否有可能将其核心能力（基础推理和工具调用）提取到一个更小的模型中，以便消费级设备运行？具体怎么做不太确定，可能是通过重度蒸馏或其他手术式方法，因为 Kimi 采用了混合专家（Mixture of Experts）架构。
我认为拥有一个没有内置任何领域知识或事实的小模型非常有价值，但在给定正确上下文的情况下，它能准确推理该做什么并使用正确的工具。
我知道 colibri [1]，但到目前为止我只看到其性能极慢。
- KronisLV
他们发布开源版的时候，我甚至还没能排上队拿到 kimi 的订阅资格？lol 很难相信我可能会从第三方那里搞到 kimi 的订阅。
- gorgmah
K3 以开源形式发布，时间点正好赶上人们在批评 Opus 性能存疑（HN 上甚至有一个关于 Opus 5 问题的帖子）……这简直太秀了。
- fahrradflucht
有没有（近期）技术可以将这个太字节的数据烧录到某种 ROM 芯片中？