朋友圈里刷到一条传闻某车企掌门人“掀桌”复活自研AI芯片项目新一代加速卡性能号称暴涨50倍整体成本只要现有主流方案的1/10直接把做算力芯片的巨头逼进了死角。说实话我的第一反应不是跟着高潮而是想先打开计算器——这个圈子最不缺的就是发布会PPT和媒体标题真正能落地的东西往往比数字枯燥得多。但这条消息确实戳中了一个正在发生的大趋势AI算力需求已经膨胀到让巨头们开始自研芯片“掀桌”的程度。如果你是个搞大模型、搞自动驾驶、或者单纯关注算力采购成本的工程师这篇文章值得看下去。我会把“50倍”拆开算一遍把“1/10成本”背后的账目口径讲清楚也会聊聊这件事对整个AI加速器市场的真实冲击。别急着站队先看懂数字怎么来的。1. 掀桌子的底气为什么一家车企非要碰AI芯片1.1 从训练到推理AI算力需求把传统供应链逼到了极限先说一个反直觉的事实现在制约大模型和智能驾驶落地的往往不是算法而是算力供给。过去这几年头部AI公司买显卡像是买白菜按千张、万张的量级进货。可买来的卡真能完全发挥吗至少我在多个集群上看到的实际情况是大规模分布式训练会把大量时间浪费在通信和等待上真正的芯片计算效率能到50%就已经算优化得很好了。这时候一个掌握了大量实车数据、同时又对“成本极度敏感”的车企会开始问一个很朴素的问题我每年花几十亿买别人的卡能不能按自己的算法需求做一颗专属芯片这就是整个事件的起点。按理说一个车企的核心竞争力应该在底盘、电池、自动驾驶算法而不是半导体。但到了大模型时代算力本身就是产品竞争力的一部分。谁能用更低成本跑同样的模型谁就能在价格战里活下来谁能把训练周期从几周压到几天谁就能更快迭代算法。所以车企自研AI芯片不是跨界乱搞而是把计算当成业务的一部分来对待。1.2 从原型到“Dojo 3”一颗芯片的迭代逻辑是什么我注意到这条传闻里有一个很关键的词复活。这说明它不是从零开始而是某个搁置项目的重启而项目编号已经推到了新一代。其实在AI芯片圈一代产品从定义到流片、再到软件栈适配通常要两到三年。如果中途因为战略调整被砍掉再想重启团队、供应链、软件生态全都要重来一遍难度不亚于从零开始。那么问题来了为什么会被复活通常有两个原因。第一个原因是外部算力供给受限想买的卡买不到或者价格高到离谱第二个原因是内部算法演进到了一个特定形态——比如从纯视觉模型转向端到端大模型——通用芯片的利用率开始明显下降自研芯片的“针对性优势”变大了。让我用一个生活化的类比解释通用AI芯片就像一把瑞士军刀什么都能干自研芯片像是专门为你的菜板定制的菜刀。切菜这件事定制刀一定比瑞士军刀顺手但前提是你得天天切菜而且切得足够多摊薄开模成本。车企自研芯片复活的逻辑也一样——只有当算法任务足够固定、量足够大时定制芯片才划算。至于“Dojo 3”这个代号我们不好说里面具体用了什么架构但可以确定的是真正的三代产品一定不是简单堆芯片数量。它大概率重新做了计算阵列设计、片上互联、以及编译器调度方案。这几样东西组合起来才能解释所谓的“性能暴涨50倍”。2. “AI5”的50倍性能暴涨架构推演与变量拆解2.1 50倍从哪来制程、互联、内存带宽、稀疏计算的联合放大50倍这个数字乍一听像天文数字。但如果把AI芯片的性能拆成几个变量你会发现完全有可能在一代产品上把指标拉满5-10倍再叠加某种“特殊算法模式”最后按摩尔定律之外的口径算出50倍。关键在于口径。先看运算单元。单颗芯片的算术吞吐量主要受制程、频率、计算阵列规模影响。如果这家车企从上一代成熟制程切到了最新制程晶体管密度翻倍再塞入更多乘加单元单芯片峰值算力翻2-3倍并不夸张。如果同时把内存带宽换成新一代高带宽内存带宽翻倍矩阵乘法单元喂得饱整卡实际吞吐又能再涨。再看互联。AI集群的瓶颈往往不在单卡而是卡与卡之间的数据搬运。如果新一代芯片把片间互联从原来的几百GB/s提升到TB/s级别那么在一个千卡集群里同步训练效率可能从30%提升到80%。单卡性能翻3倍集群效率又从3成升到8成这里就接近8-10倍的性能差异了。最后是稀疏计算。很多大模型里的权重矩阵其实是高度稀疏的即大量参数接近零。如果新一代芯片在硬件上原生支持稀疏度跳过只计算非零部分那么对于一个稀疏度为80%的模型来说理论上可以再节省3-4倍的计算量。三股力量叠在一起——单芯片、集群、稀疏算法——50倍就从一个抽象概念变成了账面上的算术结果。2.2 一个诚实的提醒性能翻倍口径背后的“测量游戏”但是请注意上一个小节里反复出现的词理论上。我把话挑明任何厂商宣传的AI芯片性能都要先回答三个问题才能当真——测试用的模型是什么精度是多少整个系统是不是刚好为这个测试做过定向优化我见过太多“单卡性能翻倍”的宣传一放到千卡集群上实际吞吐可能只比上一代多40%。为什么因为通信瓶颈、存储墙、以及编译器没有适配好。你也别指望一家车企自研芯片的编译器在一代产品里就追上深耕多年的巨头。软件生态是最大的隐形成本。我这么说并不是否定这条传闻而是提醒大家用一个统一的标准去衡量把FP8、FP16、INT8这些精度标注清楚把模型结构、批量大小、分布式拓扑公开再拿同一个模型跑一遍对比每瓦性能、每美元性能。在这之前所有“50倍”都只是一个待验证的数字而不是结论。就我个人的处理方式来说任何芯片性能新闻我都会先把它折算成两个业务指标一是同等算力下的成本二是同等模型下的训练周期。只看峰值运算次数意义不大因为你买的是“解决问题的时间”不是“每秒多少次浮点运算”。3. 1/10成本这句话到底在算什么账3.1 单颗芯片成本 vs 总算力TCO两种算法差出10倍“1/10成本”是我更想较真的地方。因为“成本”这个词在算力采购里有至少三种完全不同的含义而宣传口径常常在三种含义之间偷换。第一种是物料成本也就是芯片BOM材料清单。第二种是单卡成本包括芯片、散热、包装、内存。第三种才是最有意义的——总拥有成本TCO它包含采购价、机房建设、电力、散热、维护、折旧、软件适配人力以及最容易被忽略的空置率。举个例子如果一颗自研芯片的物料成本只有对手的一半但配套的软件栈不成熟需要多养一个几十人的优化团队每年人力成本上千万那么所谓“1/10”很快就会在TCO里被吃回来。反之如果软件栈成熟、集群利用率高、功耗低即使芯片本身不便宜按照每美元每FLOP的维度算也完全可能真的做到对手成本的十分之一。所以看到“1/10成本”时我建议你当作一个营销锚点来看而不是一个可以直接写进采购方案的数字。真正有参考价值的是每训练一个千亿参数模型总花费是多少每运行一个在线推理请求单位成本是多少。这两个数能算出来谁便宜谁贵一目了然。3.2 把单位成本打下来的三个真实杠杆抛开宣传话术自研芯片确实有三个结构性成本优势值得认真对待。第一个是规模效应。车企最大的优势是单一客户、单一模型、超大用量。只要一颗芯片只跑自家那几类模型设计上就不用做通用性妥协晶体管可以全部用在刀刃上良率、封装规格也可以按固定形态优化。产量到一个量级之后单颗芯片的摊销成本会快速下降。第二个是省掉毛利层。买通用芯片你付的钱里包含厂商的研发摊薄、销售费用、利润空间而自研芯片无论怎么算这部分收益是留在自己手里的。说白了同样是500W功耗的板卡如果通用芯片卖10万一块自研芯片的直接制造成本可能只有两万三中间的差价就是信息优势和规模效应带来的。第三个是端到端系统优化。自研芯片可以配合自己的网络协议、编译器、调度系统一套设计减少数据中心里白白浪费的算力。集群利用率每提升10个百分点在总成本上的节省往往比芯片单价砍20%还明显。但这也正是风险所在如果量铺不满、算法大改、团队流失自研芯片的成本优势会在一瞬间变成财务黑洞。我看到过不止一个企业自研芯片项目在投入几十亿后因为“对接不上业务”而停摆这个坑不可不清醒认知。4. 被逼入死角的对手算力军备竞赛里的生态与反制4.1 生态护城河与自研者的两难几乎所有做AI芯片的团队第一版流片成功时都会觉得“我已经追上巨头了”但真正让他们痛苦的永远是同一个词生态。巨头的优势不只在芯片本身而在于那么多年积累下来的软件栈、调试工具、优化库和开发者习惯。举个例子你在C系列软件栈里训练过一个模型想迁移到新芯片上不是改几行代码就完事的。算子得重新实现精度对齐需要一两个月分布式通信库要适配连数据管道的批处理逻辑都可能要改。一个成熟模型迁移到新平台稍微大一点的团队来做少说三个月多则半年。对于追求速度的AI团队这就是高额的切换成本。所以自研芯片的真正挑战并不在于把硬件性能做上去而在于能否围绕硬件建立一套“足够匹配自家业务”的软件闭环。车企自研芯片的最大优势恰恰在于它只需要适配自己的算法不需要照顾开发者生态——因为开发者就只有自己。这就是所谓的“掀桌”逻辑我不在通用市场上和你打我在自己家里换一套规则你管不着。4.2 谁在慌、谁能跟进、谁会掉队从行业格局看芯片巨头露出紧张感是可以理解的。过去几年几家互联网大厂、车企、造新架构的初创公司都在试图绕开传统GPU路线。如果头部车企证明“自研芯片能在自家场景下以1/10成本干同样的事”这会让所有做AI算力的厂商重新思考通用方案还能收多少溢价但我并不认为传统巨头会坐以待毙。它们手里的王牌依然是规模巨大的软件社区和成熟的数据中心解决方案而且它们自己也在针对大模型推出专门加速方案。真正的危险在于通用加速器越来越难在所有场景保持“最佳性价比”而每个细分场景都可能出现一个自研者。这种“大厂守通用、玩家做专用”的格局会持续分化。对行业内的工程师来说这其实是个好时代。芯片选择变多技术路线分化意味着懂异构计算、懂编译优化、懂系统设计的人才价值越来越高。将来你不需要因为你用的是某一家芯片而骄傲你需要骄傲的是你搞懂底层计算逻辑能够快速把算法压到任何一款新芯片上跑起来。5. 从热词回归工程该怎么理性评估“性能暴涨”5.1 用一个最小实验验证50倍的说法如果你手头有预算想验证这类说法我的建议是先跑一个最小可控实验别急着搭超大集群。具体怎么做呢第一步把上一代和最新一代芯片放在同一台机器上跑同一个模型的一个子网络固定相同的批量大小和精度记录三个指标端到端单卡吞吐、实际功耗、显存占用。第二步再做两卡和四卡的扩展测试看线性扩展比。很多芯片单卡性能不错一到多卡互联就掉链子。第三步用你最核心的生产模型——不是公开基准里的标准模型——跑24小时看稳定性、故障率和性能波动。这套流程走下来你不需要任何人给你PPT演示自己就能得出结论。更重要的是你会顺便摸清楚迁移工作量到底有多少几个算子要手写几个优化参数要调通信库要不要动。这些往往是决定一个芯片能不能上生产环境的隐性成本。我自己做迁移评估时有一半时间花在硬件选型上另一半时间全花在“把现有算子库在目标芯片上跑出足够效率”这个反复试错的过程里。5.2 真实决策中的采购清单五个必问问题最后无论你是技术负责人还是投资人面对“下一代芯片50倍性能提升”这种消息先别急着写报告。给你一份我平时使用的问题清单可以帮你过滤掉大部分水分。第一算力提升是单卡还是集群如果是被千卡训练优化带出来的数字小规模场景不一定能复制。第二精度是多少有没有明确Tensor Core算力、稀疏算力、稠密算力三个口径第三软件栈成熟度如何关键算子符不符合你模型里最耗时的那些迁移需要多少个月第四功耗和散热是多少性能翻倍、功耗也翻倍的话到机房根本不划算。第五供应链能和你的量产节奏匹配吗新芯片能不能稳定供货一整年而不是只能小批量流片这五个问题问完你会发现大多数“惊艳”的芯片新闻答案都会变得模糊。这不是说自研芯片没有价值而是说真正的价值要靠自己的业务来验证。芯片行业有一条守恒定律如果你的模型足够固定、量足够大专用芯片确实可以碾压通用芯片反过来如果你的模型三天两头变专用芯片的优势就会变成劣势。我个人最深的体会是AI芯片领域的消息永远比芯片本身跑得快。今天刷到的“50倍性能暴涨”可能半年后才会出现在某个评测报告里然后被证明是“特定情况下成立”。但这并不意味着我们该忽视它。恰恰相反每一个这样的信号都说明算力供给正在从封闭转向多样。作为一线的技术人保持好奇心保持计算能力手里握着真实的评测数据比什么都强。
