大模型为何绕不开芯片自研？

记者 任晓宁

大模型公司自研推理芯片传闻引发关注

近日，大模型圈内传出消息：7月7日，DeepSeek和智谱几乎同时被曝出正在自研推理芯片。消息称，DeepSeek已经开始和芯片设计公司、晶圆代工厂、存储企业接洽；智谱方面，则已向部分国内芯片设计公司做了初步询问，探讨联合开发专用AI处理器的可能性。针对此事，记者分别向智谱和DeepSeek求证，截至目前，智谱方面没有回应，DeepSeek也没有公开表态。但消息本身已在市场上激起不小讨论。

推理芯片与训练芯片的核心区别

两家公司瞄准的都是推理芯片，而非训练芯片。简单区分：训练芯片核心任务是让模型学会东西，对计算精度、算力密度、内存带宽要求极高；推理芯片则不同，其任务是把已训练好的模型用起来，讲究低延迟、高能效比、小尺寸。方向不同，门槛也不同。

为何大模型公司优先做推理芯片

一位头部国产芯片公司的高级工程师给出两点判断：第一，难度相对可控。训练芯片对精度要求极高，一旦训练过程中精度崩盘，前期投入的巨额资金和时间等于打了水漂。推理芯片则是在已有模型权重的基础上工作，即便芯片性能差一些，顶多跑得慢、烧钱少，不至于全盘皆输，可以慢慢调优。第二，实用性更强。今年Agent（智能体）爆发后，推理需求涨得极快，国产芯片现阶段的产能根本跟不上。如果大模型公司能自研推理芯片，等于自己堵上了一个大缺口。

算力紧张从用户端可感知

这位工程师也坦言，目前国产大模型厂商普遍处于算力紧张的状态。从用户端就能感受到：在社交平台上，智谱的用户经常抱怨新模型报错，或买了个人套餐却要排队、抢不到额度；“DeepSeek崩了”更是常见的热搜话题，有用户统计过，今年以来DeepSeek至少崩了18次。腾讯高管也多次在财报电话会上说，希望能买到更多的卡。火山引擎方面，Seedance模型的API服务同样是供不应求的局面。

自研芯片的长期价值与短期挑战

北京市人工智能高级工程师张发恩认为，大模型公司做自研芯片，短期之内肯定填不上需求的窟窿，过渡期内还得继续买卡、混合使用。但从长远看，造芯这件事大模型公司非做不可——用自家最聪明的AI去打磨最适配的底层硬件，把性能压榨到极致，这条路一旦走通，未来的利润率和生态主动权就有保障了。OpenAI已提供了一个现成的参考：6月24日，OpenAI联合博通发布了首款定制推理芯片。博通CEO陈福阳说，这颗芯片在推理任务上的性能，能和英伟达Blackwell芯片、谷歌TPU掰手腕，而成本能降低大约50%。

国内芯片厂商的前车之鉴

不过，那位头部芯片公司的高级工程师也提醒，国内大模型公司自研芯片，能否持续、能否成功，存在不小不确定性。自研芯片是高投入、长周期业务，而国内大模型公司收入水平和OpenAI相比，差距还很显著。国内已有成熟产品的芯片厂商，无论互联网大厂还是独立芯片公司，都是多年布局才走到今天。百度昆仑芯从2011年起步，至今已15年；阿里巴巴平头哥是2018年开始布局，也有8年左右；寒武纪、燧原科技、天数智芯、壁仞科技等独立芯片公司，也都是持续投入7年以上，才实现规模化部署。前车之鉴也不是没有：OPPO旗下的哲库（ZEKU）在2024年关停，3000多人团队就地解散；京东去年高薪招募芯片人才，结果不到半年，今年4月就被曝出公司主体发生变更。芯片这条路，不是光有决心和钱就能走通的。