观点聚焦
投资建议
推理需求高增叠加算力紧缺约束的背景下,大模型、云厂商、第三方服务商均需要追求更高的推理效率。在分析推理优化的原理的基础上,市场关注:不同技术对于推理优化的定量影响如何?
推理优化有哪些参与者又如何看待各方参与者?本篇为推理产业链深度报告下篇——测算篇,我们将分析并解答上述问题。
理由
推理产业链参与者众多。硬件厂商外,推理产业链的主要参与者包括:模型厂商、超大规模云厂商、新云、推理优化平台、异构算力管理平台、多模型API聚合平台等。我们认为各环节毛利率主要取决于推理优化能力、硬件利用率、硬件采购成本和产品定价权等,短期规模扩张可摊薄固定成本,中长期超额利润需将技术效率转化为更低的单位Token成本和更稳定的软件服务溢价。
推理优化能够带来多大幅度的成本下降?在硬件价格给定时,单位Token成本主要由单卡理论吞吐、算法增益、推理引擎工程达成率和集群利用率共同决定。模型架构与芯片能力设定理论成本边界,量化、投机解码等算法进一步提高有效吞吐,推理引擎和集群调度则决定理论收益的实际兑现程度。我们认为,单项优化较难形成持续的成本优势,覆盖模型、算法、引擎与硬件的Codesign能力更有可能形成持续的单位Token成本优势。
如何看待各方参与者?1)云厂商与新云:具有较强的算力采购、模型分发、企业渠道能力,可以用规模提升硬件利用率;在算力整体紧张时、模型智能水平差距缩窄,云厂商因其前期算力投入收入更具弹性;2)模型厂商:在算力紧张程度有缓解、模型智能水平差距扩大时,擅长Co-design的参与者更具备优势;3)第三方厂商服务敏捷、专注推理引擎提升有效吞吐,在模型厂商和硬件厂商尚未将推理优化作为核心投入方向的阶段,在产业链中抢占身位,长期来讲需要向硬件或者向模型靠拢。
盈利预测与估值
建议关注大模型厂商(智谱、MiniMax);云及新云如Azure(微软)、AWS(亚马逊,互联网组联合覆盖)、GCP(谷歌,互联网组联合覆盖)、NBIS等;推理优化平台;Token工厂如商汤、范式智能、润建股份等产业链参与者。
风险
技术迭代导致既有优化成果贬值风险;模型商业化模式变化风险;成本上升风险;推理优化技术演进风险。



