中文特辑

算力紧约束下的Kimi K3:开源之后,谁能真正跑起来?

July 23, 20261 min read

7月16日,Kimi K3发布:2.8万亿参数、百万token上下文、原生多模态,官宣7月27日前开放完整权重——全球最大的开源模型。

朋友圈刷屏的关键词是"开源"。但我想说一个更冷的判断:这一轮,开源不是稀缺的终点,而是稀缺的转移。

权重放出来的那一刻,模型本身的边际复制成本归零,任何人都能下载。但"能下载"和"能跑起来"之间,隔着一座算力大山。K3普及的速度,不取决于license写了什么,而取决于愿意把集群拿出来跑K3、并以合理价格把token卖给个体开发者的人有多少。

一、先算一笔物理账

2.8万亿参数是什么概念?即便用低精度存储,光是把权重装进显存,就需要TB级的空间——这不是一张卡、一台机器的事,而是几十张顶级加速卡组成的集群,还要靠高速互联把它们"缝"成一个整体。

有人会说:MoE架构嘛,每次推理只激活一小部分参数。没错,MoE省的是计算量,省不了显存占用——所有专家都得随时待命,全量权重必须常驻。这就像一个只需要几位专家出场的会议,但你得把全部专家都请到现场坐着。

再叠加百万级上下文,压力就更大了。模型每多"记住"一段对话、一份长文档或一部分代码,都要占用额外显存。上下文越长,需要暂存的信息越多,显存和芯片之间的数据传输压力也就越大。

所以,百万上下文听起来很强,但真正用来读取整本报告、分析完整代码仓库时,恰恰也是最考验硬件的场景。K3采用新的混合线性注意力架构来降低这部分成本,但基本规律没有改变:模型每多读一个token,背后都要多付一笔"显存税"。

然后是并发。一个人跑通demo,和几千人同时在线、保证首token延迟和吞吐稳定,是两个完全不同的工程量级。后者才叫"服务",前者只叫"复现"。最后还有电费——万亿级模型的推理集群,是7×24小时烧电的资产。

二、经济学视角:稀缺性搬家了

传统上,闭源模型的稀缺性在"权重"本身——它是护城河,是定价权的来源。

开源做的事情,是把这道稀缺性从模型层搬到了基础设施层:模型从"独占品"变成了"公共品",而算力依然是刚性的私有稀缺品。开源没有降低跑K3的总成本,它只是改变了成本结构——把一次性的授权费,换成了持续的算力账单。

这意味着利益格局的重新洗牌:

最大的受益者是有集群的人。 云厂商、推理服务商、手握万卡的大厂——权重免费送上门,他们补上最后一块拼图,直接开卖token。开源模型越强,卖算力的生意越好。

中小团队的现实是:模型虽然开放了权重,理论上可以自己部署,但买服务器、配GPU、做优化和运维的成本并不低,最后往往还是直接购买API更省事。但这并不意味着开源与他们无关。恰恰因为权重是公开的,任何有算力的云厂商都可以部署K3并提供服务。供应商一多,用户就有了比较和更换的选择,token价格也会在竞争中不断下降,逐渐接近模型实际运行所需的算力成本。你可能不会亲自运行K3,但你不再只能向一家厂商购买服务。这就是开源带来的议价权。

量化和蒸馏确实可以降低部署成本:前者让模型用更少的显存运行,后者把大模型的部分能力转移到更小的模型上。但它们只能降低门槛,不能让算力成本消失。模型压缩得越狠,越可能失去复杂推理、长文本理解和稳定性等能力。而人们期待K3,恰恰不是为了获得一个"基本够用"的小模型,而是看中它在高难度任务上领先的那部分旗舰能力。这部分能力最难被压缩,也最依赖真正的算力投入。

三、所以,普及速度看什么?

看三条曲线,而不是看发布会:

一看推理芯片和显存的供给曲线——硬约束松多少,部署门槛降多少;二看云上托管的价格曲线——每百万token的报价什么时候被卷到"用得起";三看推理工程的优化曲线——减少重复计算、提高芯片利用率,让模型生成同样数量的内容时,消耗更少的算力,最终降低用户支付的API费用。K3在正式开放权重之前,就提前与主流推理框架和开源社区完成适配。这说明团队很清楚:把模型文件放到网上,只是开源的第一步。只有主流工具能够顺利加载、优化和部署它,开发者真正用得起来,开源才有实际价值。否则,所谓开源不过是多了一个可以下载、却很难运行的文件。

结语

过去我们习惯问:"这个模型开不开源?"

从K3开始,更值得问的是:"开源之后,谁跑得起?"

权重会在7月27日之前放出,这一点已经确定。不确定的是:在算力紧约束之下,这2.8万亿参数,会成为多数人的生产力,还是少数集群持有者的新租金。

模型正在变成公共品,算力正在变成新地租。看懂这次稀缺性的搬家,比追每一场发布会都重要。

Takeaways

这一轮,开源不是稀缺的终点,而是稀缺的转移。
开源没有降低跑K3的总成本,它只是改变了成本结构——把一次性的授权费,换成了持续的算力账单。
模型正在变成公共品,算力正在变成新地租。

Was this useful?