行情中心 沪深京A股 上证指数 板块行情 股市异动 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递

软件及服务行业TOKEN启示录(五):推理产业链深度-测算篇

中国国际金融股份有限公司 08-24 00:00

观点聚焦

投资建议

推理需求高增叠加算力紧缺约束的背景下,大模型、云厂商、第三方服务商均需要追求更高的推理效率。在分析推理优化的原理的基础上,市场关注:不同技术对于推理优化的定量影响如何?

推理优化有哪些参与者又如何看待各方参与者?本篇为推理产业链深度报告下篇——测算篇,我们将分析并解答上述问题。

理由

推理产业链参与者众多。硬件厂商外,推理产业链的主要参与者包括:模型厂商、超大规模云厂商、新云、推理优化平台、异构算力管理平台、多模型API聚合平台等。我们认为各环节毛利率主要取决于推理优化能力、硬件利用率、硬件采购成本和产品定价权等,短期规模扩张可摊薄固定成本,中长期超额利润需将技术效率转化为更低的单位Token成本和更稳定的软件服务溢价。

推理优化能够带来多大幅度的成本下降?在硬件价格给定时,单位Token成本主要由单卡理论吞吐、算法增益、推理引擎工程达成率和集群利用率共同决定。模型架构与芯片能力设定理论成本边界,量化、投机解码等算法进一步提高有效吞吐,推理引擎和集群调度则决定理论收益的实际兑现程度。我们认为,单项优化较难形成持续的成本优势,覆盖模型、算法、引擎与硬件的Codesign能力更有可能形成持续的单位Token成本优势。

如何看待各方参与者?1)云厂商与新云:具有较强的算力采购、模型分发、企业渠道能力,可以用规模提升硬件利用率;在算力整体紧张时、模型智能水平差距缩窄,云厂商因其前期算力投入收入更具弹性;2)模型厂商:在算力紧张程度有缓解、模型智能水平差距扩大时,擅长Co-design的参与者更具备优势;3)第三方厂商服务敏捷、专注推理引擎提升有效吞吐,在模型厂商和硬件厂商尚未将推理优化作为核心投入方向的阶段,在产业链中抢占身位,长期来讲需要向硬件或者向模型靠拢。

盈利预测与估值

建议关注大模型厂商(智谱、MiniMax);云及新云如Azure(微软)、AWS(亚马逊,互联网组联合覆盖)、GCP(谷歌,互联网组联合覆盖)、NBIS等;推理优化平台;Token工厂如商汤、范式智能、润建股份等产业链参与者。

风险

技术迭代导致既有优化成果贬值风险;模型商业化模式变化风险;成本上升风险;推理优化技术演进风险。

免责声明:以上内容仅供您参考和学习使用,任何投资建议均不作为您的投资依据;您需自主做出决策,自行承担风险和损失。九方智投提醒您,市场有风险,投资需谨慎。

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈