国产 AI 算力芯片这两年的热度已经从纯粹的行业议题变成了实实在在的采购清单和研发排期。做竞品分析看得越深越会发现这个市场早就过了“拼纸面参数”的阶段真正决定胜负的是三个维度份额能替代到什么程度、供给瓶颈卡在哪一层、生态竞争带来的格局分化有多剧烈。这篇文章不打算做那种罗列参数的厂商白皮书而是想把我实际调研和项目落地中观察到的规律梳理出来帮大家在选型、研发投入和技术路线判断上有个参考。1. 算力芯片赛道的底层逻辑为什么“替代”是一个系统题1.1 需求侧正在发生的关键变化过去几年国内算力需求的主体是互联网大厂的大规模训练集群追求极致性能不太在乎功耗和兼容成本。但今天的情况已经明显分层一类是运营商和政企智算中心采购逻辑是“能跑主流模型、满足等保和国产化要求、服务响应及时”另一类是中小AI创业公司买卡就是跑推理对性价比和上手速度极其敏感。这种需求结构的转变直接改变了国产算力芯片的竞争重心。以前大家比的是单卡训练速度现在越来越多的订单在比“稳定跑满一个月的推理服务不掉点”和“从拿到卡到跑通一个开源模型需要几天”。需求侧的变化叠加供应侧的不确定性让“替代”不再是一个简单的硬件替换动作而是一个从芯片到驱动、从框架适配到业务迁移的系统工程。我在评估某个智算中心项目时发现客户一开始提的需求是“训练性能不低于某国际主流卡”但实际使用场景70%以上是推理负载。这里就出现了一个关键错配训练场景对互联带宽和显存容量要求极高而推理场景更看重内存带宽、批量调度效率和功耗比。如果不把这个搞清楚采购回来就会变成“参数好看但业务跑不动”的摆设。1.2 “份额替代”的真实内涵很多时候谈国产芯片替代会把“份额”简单理解成出货量或营收占比。但从我接触的多个项目来看份额替代有三个递进的层次第一层是“装机替代”也就是采购环节的入围和实际部署。这是最表面的替代门槛在于是否具备完整的板卡、服务器和服务体系。第二层是“运行时替代”即核心业务真的在这套芯片上跑起来替代率能到多少。这层考验的是软件栈的成熟度、算子覆盖率、分布式训练框架的兼容性。第三层是“生态替代”客户的新项目、新模型默认就在国产平台上开发而不再把国际主流平台作为首选。有意思的是我发现很多厂商在第一层做得很好出货量增长很快但在第二层和第三层差距极大。有些平台的文档和工具链明显是从软件公司思路出发打磨过的出了问题社区里能搜到答案有些平台则更像“硬件卖出去就完事”算子缺失要靠用户自己算遇到报错连日志都看不懂。这种体验上的差距最终直接反映在复购率和开发者口碑上。2. 供给瓶颈产能、良率与先进封装的三角困局2.1 制造端的现实约束所有国产算力芯片的底层问题最终都要回到制造端。芯片设计做得再先进流片良率上不去、产能排不进去一切都是空谈。目前国内可用的先进制程资源有限这导致头部厂商普遍陷入一个两难用成熟工艺做出来的芯片频率和功耗不理想要追性能就得去抢有限的先进产能。良率问题是我在调研中听到最多的内部焦虑。一款旗舰产品设计定型之后良率直接决定了毛利和交付量。良率不够高的批次只能降频筛选卖但这类芯片一旦流入市场往往带来口碑反噬。某芯片厂的真实经历是第一批次设备的稳定性问题被归因到芯片本身导致后续好几家在选型评估时都有了先入为主的负面印象。产能分配也是一个隐性瓶颈。产能有限时优先供货谁市场策略上通常要先保大客户尤其是那些能带来标杆效应的互联网厂商和政府项目。这样做的结果是中小客户等货周期长而这部分被延后的需求又恰好是增长最快的长尾市场。2.2 封装与存储容易被忽视的卡脖子环节芯片算力提升不只靠制程。AI芯片的功率动辄三四百瓦需要先进封装来集成更多计算单元和高速接口。目前国内在Chiplet芯粒设计上探索不少但封装基板的供应链、高密度互连工艺的成熟度仍是短板。更突出的瓶颈在高带宽内存HBM上。HBM的重要性很多人都能说上来但很少人意识到它在整个系统成本中的占比。以一枚高端训练卡为例HBM的成本可能占到整个BOM的三成甚至更多。在当前供应紧张、价格走高的行情下有没有稳定的HBM拿货渠道直接决定了产品的成本竞争力和交付能力。我见过一个很典型的案例某推理卡在设计时为了控制成本用了普通DDR内存而非HBM结果容量虽然够大但内存带宽上不去导致大模型的batch size稍调大就延迟飙升。最终不得已在下一代产品里换回HBM设计整个研发周期延后了将近一个季度。这就是“设计时省了几百块上市后丢了几个亿订单”的教科书案例。2.3 供给策略的分化激进备货与按单生产观察几家主要国产算力芯片厂商供给策略正在分化成两种思路。一种是对未来需求高度乐观选择提前锁定产能、备货压库存赌的是市场继续高速增长。这种策略在市场景气期能吃到最大红利但一旦需求不及预期库存减值风险极其巨大。另一种是相对稳健的按单排产通过与服务器整机厂商联合备货的方式降低风险但这种策略牺牲了对快速交付的响应速度。从市场反馈来看我更倾向于认为供给瓶颈的本质不是“造不出”而是“不敢造太多”。因为每一片晶圆投下去都是真金白银如果设计迭代太快或市场需求切换太剧烈上一代库存很快就变成负资产。这种心态在行业上升期是安全的一旦需求出现短期下滑供给端的恐慌性收缩又会加剧市场的供应波动形成自我实现的紧缩循环。3. 生态竞争真正的胜负手是软件和工具链3.1 兼容层的策略选择关于国产AI芯片的软件生态有一个绕不开的问题到底要不要兼容主流GPU计算平台的那套CUDA生态这个问题在实际市场中的答案基本是嘴上说自主手上做兼容。因为纯粹让客户把模型迁移到一套全新编程语言和算子库上迁移成本高到没有人愿意承受。兼容不是简单的翻译层而是要对主流生态的算子行为、内存管理机制和分布式通信模式做深度模拟。这里最考验功力的是算子覆盖率和性能表现。很多国产平台声称兼容但跑常见模型没问题一上小众算子就“咔咔”编译失败或者代码能跑但性能只相当于原生环境的五六成这种兼容就是“能用但不好用”的半吊子水平。我在实测中会有一个固定动作拿一批主流模型大语言模型、视觉模型、推荐系统模型各来几个做三类测试——原样运行、用框架官方API改写、用自定义算子扩展。原样运行测的是兼容层做得好不好改写测的是开发体验顺不顺自定义算子扩展测的是底层工具链深不深。绝大多数国产平台过得了第一关第二关就开始露馅第三关基本是重灾区。3.2 编译器和算子库的“内功”修炼如果只看官方文档每家都在讲“全栈自研”“算子覆盖率高”但实际跑起来差异非常大。关键区别在于两个层面一是静态图优化能力能否把模型中的冗余计算自动消除、算子融合做干净二是动态Shape处理能力推理场景的输入长度往往不固定这要求编译器在运行时动态生成高效内核而不是走回静态编译的死胡同。算子库的覆盖率和质量也很关键。以常见的Transformer结构为例里面涉及矩阵乘法、LayerNorm、注意力计算、GELU激活、残差连接等数十种算子如果每一个算子都有经过手工极致优化的实现性能自然稳。但如果只靠编译器自动生成通用内核性能和稳定性都会差不少。一家芯片厂商的软件团队规模、社区贡献度、issue响应速度往往比其芯片PPT上的算力数字更能说明问题。我习惯去翻它们开源仓库的commit频率和issue处理记录一个长期活跃、有外部贡献者的项目通常生态成熟度不会差。3.3 绑定与合作生态的博弈生态竞争的另一个观察维度是芯片厂商和下游合作伙伴之间的绑定深度。有的选择和头部服务器厂商做深度适配让整机出厂即“开箱可用”有的选择和云厂商合作以云实例的方式对外开放算力还有的积极拥抱主流开源AI框架的中方维护团队通过框架层的适配把芯片优化“原生写进去”。这种合作策略上的差异市场可以看得越来越清楚绑定框架的做法最扎实但见效慢绑定整机厂商的做法出货快但容易出现同质化竞争绑定云厂商的做法客户触达效率最高却容易被云厂商“管道化”失去品牌认知。没有哪条路绝对正确但观察一家厂商在合作上的优先级基本能判断它未来一年到三年的市场打法。4. 格局分化不同路径、不同市场、不同命运4.1 头部厂商的路径差异国产算力芯片的头部玩家虽然都在做AI芯片但各自的路径已经明显分化。一类是全栈自研路线从芯片架构到编译器、runtime、框架插件全部自研目标是构建类似国际巨头那样的完整体系另一类是灵活兼容路线主力产品瞄准主流生态兼容把重点集中在性价比和场景适配还有一类是垂直场景路线不做通用算力专注在摄像头AI、自动驾驶、工业质检等细分场景用专用架构换效率和功耗优势。三种路径没有绝对优劣但适应环境不同。全栈自研在政策和品牌层面有天然优势但生态建设的周期很长过程中会经历阵痛期灵活兼容路线市场见效最快但技术壁垒相对低容易陷入价格战垂直场景路线活得最稳但天花板明显难以支撑数百亿市值的想象空间。格局分化到这个阶段已经开始出现明显的“头部收敛、长尾出清”。4.2 训练与推理市场的差异化竞争算力芯片市场如果只按“训练”和“推理”切一刀会发现两个市场的发展阶段完全不同。训练市场目前仍然是极度依赖高端互联和多卡协同的场景对芯片生态的要求最高门槛也最高目前新玩家很难撬动稳固格局。推理市场则极度分化从大模型在线推理到端侧推理再到车端、边缘侧各有各的算力需求和功耗约束。比较有意思的反差是有些在训练市场存在感较弱的厂商在大模型推理市场反而活得相当好。原因很简单——大模型推理的核心瓶颈往往不是单卡算力而是显存带宽和部署灵活性。一家芯片的容量到位、带宽够高、兼容性好价格只有主流方案的一半在推理市场几乎是一打一个准。只要生态别太拉垮客户很愿意为性价比迁移。从我这边的项目经验看目前国产芯片在推理场景的渗透率已经相当可观尤其是对延迟不敏感、批量处理为主的业务稳定性和成本都经得起检验。训练场景的相对脆弱点还是在于多卡互联的稳定性和分布式任务的调度成熟度尤其在千卡以上的规模掉卡、超时、通信瓶颈仍然是常见问题。4.3 政企市场与商业市场的“质量剪刀差”国产算力芯片的出货里政企和运营商市场占了大头这是公开的秘密。这类市场的特征是重视合规资质、重视服务保障、对价格不敏感但对性能的极致要求也不高。商业互联网市场则相反要求的是硬碰硬的性价比和在核心业务中长时间稳定运行。如果一个芯片的主要出货都在政企市场而商业市场始终打不进去长期来看会产生一个很危险的信号技术迭代失去商业场景的滋养。商业互联网场景通常会逼出最严苛的性能要求和最复杂的工程问题这些对技术积累极为宝贵。我特别关注一家厂商在互联网公司中的渗透率哪怕渗透率只有个位数只要它在某几个核心场景稳定跑了超过半年我对其技术成熟度的信心就远高于那些只出现在政企中标名单里的厂商。5. 算力平台选型评估实操指南5.1 先跑通业务再看纸面参数做竞品分析和选型评估时最容易犯的错误是一上来比参数。我的习惯是倒过来先找部门里最核心的两三个模型在候选平台上完成从编译到部署的全流程测试。这个过程能暴露大量问题——能不能顺利装好依赖、编译时间有多长、跑同一个模型的内存占用是多少、性能波动大不大、报错信息是否可理解。耗时方面也值得记录。一个熟练的工程师在两小时内能把模型在新平台上跑通说明工具链至少是顺手的如果折腾了两天才跑通首个示例模型后面的开发效率大概率也不会好。我在一次评估中记录到某平台光环境初始化就折腾了六个小时其中还出现了不少需要手动补依赖的环节这种平台的开发体验可想而知。5.2 画一张“需求-供给”匹配表选型评估应该建立一张完整的表格把需求侧指标和供给侧能力逐一对照。表格要包含以下核心维度算力按FP16和INT8分别评估因为很多推理场景只看INT8、显存容量和带宽、互联方式及带宽、支持的精度类型、主流框架适配程度、自定义算子开发成本、厂商服务响应速度、社区活跃度、功耗和散热要求、单卡成本。我通常还会在这个表格里加一列“风险等级”专门记录供应风险高、生态风险中、技术风险低的细项。风险等级全红的平台不建议碰全绿的平台几乎不存在中间态才是需要重点谈判和管控的部分。这种表格做完之后每个维度的权重也可以随着业务场景调整我见过有人只做文生图业务就把显存和视觉算子覆盖率权重调得很高有人做推荐系统就会更看重稀疏特征算子的效率和嵌入表支持。5.3 从测试到采购的避坑清单最后分享几条实操避坑经验。第一条一定要拿真实的业务模型做基准测试不要用厂商提供的跑分样例因为厂商压测过的样例几乎都做了针对性优化代表性极差。第二条尽量用自己团队熟悉的模型和框架来测试否则出了问题分不清是水平问题还是平台问题。第三条先小批量采购部署跑一到三个月的真实业务再放量国产芯片在不同版本驱动下的表现差异极大新版本驱动发布后所有测试至少要回归一遍重点场景。还有一个容易被忽略的坑是“板卡为主、整机适配不足”。芯片本身跑得快但配套的服务器、散热、固件如果没磨合好整个系统的稳定性和性能折扣会超过预期。选购的时候一定要问清楚适配的整机型号清单尽量选择已经大规模验证过的组合。切记算力芯片永远是系统竞争不是单卡竞争。6. 个人视角几个值得持续跟踪的规律做了这么久的算力平台选型和竞品分析我越来越确信一件事芯片行业没有一劳永逸只有持续迭代。今年领先的明年可能因为一个架构决策失误就掉队今年落后的也可能因为一次软件栈重构实现逆袭。所以我的习惯是每季度做一次信息刷新更新各家产品的最新进展、重要客户合作案例和社区动态保持对格局变化的敏感度。另一个比较深的体会是评估国产算力芯片一定要把视角放长远。短期跑分领先未必是好事有时是因为为了账面数据做了大量特定优化短期兼容性不足也未必是坏事有时恰恰说明厂商在坚持构建真正自主的技术底座。这里的关键是判断一家厂商是否有长期技术路线上的定力以及它的软件投入占比是否足够支撑生态建设。最后分享一个我反复用来判断平台成熟度的小技巧去开发者社区看“差评帖”是怎么被回复的。认真对待用户问题、每一帖都有官方反馈的平台软件成熟度通常进步很快而那些社区里全是用户互助、官方长期不吭声的平台无论发布会搞得多么热闹在实战中的体验大概率不会好。生态这件事态度远比参数更能预示未来。
