行情中心 沪深A股 上证指数 板块行情 股市异动 股圈 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 龙虎榜 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递 科技龙头指数

“AI的IPHONE时刻”系列15:COWOS实现HBM和GPU高速互连

广发证券股份有限公司 2023-06-14

帝奥微 --%

核心观点:

先进封装提升数据传输带宽,释放HPC 芯片算力。英伟达发布基于Grace Hopper 芯片的超级计算机GH200。

Grace Hopper 使用NVLink C2C 技术实现CPU 与GPU 间900 GB/s 带宽高速互连;Hopper GPU 使用CoWoS技术集成HBM3 内存,内存带宽高达3000 GB/s。后摩尔时代,芯片晶体管密度提升接近极限,芯片尺寸放大也受到掩模版极限的限制,晶圆制造工艺对芯片算力的提升趋于放缓。长期以来,芯片封装技术的进步速度慢于晶圆制造技术,这导致芯片数据传输速率的提升低于芯片算力的提升,传输带宽已经成为限制芯片性能的瓶颈之一。因此各种2.5D、3D 先进封装技术将成为AI 等高性能计算场景中算力提升的关键。

台积电CoWoS-S 技术是目前HBM 与CPU/GPU 处理器集成的主流方案。HBM 是一种新型内存,通过垂直堆叠DRAM 芯片以缩短内存和处理器间通信的距离,从而提升数据传输带宽。相比于常见的DRAM DIMM,HBM最大的优势在于DRAM 芯片之间以及内存和处理器之间的带宽更高,尺寸更小。目前HBM 已经迭代至HBM3,代替DRAM DIMM 成为先进高性能计算芯片的首选内存方案。HBM 与处理器之间的集成需要使用2.5D 先进封装技术。英伟达P100、V100、A100、H100、Grace Hopper 等高性能数据中心芯片均采用台积电CoWoS-S技术实现HBM 与GPU 的封装。CoWoS-S 是台积电3D Fabric 平台下的2.5D 封装技术平台,使用硅晶圆作为中介层构造芯片-晶圆-基板(Chip-on-Wafer-on-Substrate)结构,实现处理器与HBM 之间高密度、高带宽互连,成为目前HBM 与CPU/GPU 处理器集成的主流方案,除英伟达外,CoWoS 的用户还包括Broadcom、Google TPU、Amazon Trainium 等头部厂商。

投资建议。AIGC 推动AI 服务器需求增长,建议关注:算力:海光信息、寒武纪(计算机组覆盖)、工业富联、芯原股份、龙芯中科等;连接:源杰科技、澜起科技、裕太微、聚辰股份、帝奥微等;PCB:胜宏科技、沪电股份;存储:深科技、北京君正、兆易创新、东芯股份等;电源:杰华特;制造:中芯国际、长电科技、通富微电、甬矽电子等;应用:海康威视、大华股份、韦尔股份、思特威、格科微、恒玄科技、晶晨股份、全志科技、瑞芯微等。

风险提示。AIGC 发展不及预期; AI 服务器出货量不及预期; 国产厂商技术和产品进展不及预期。

免责声明:以上内容仅供您参考和学习使用,任何投资建议均不作为您的投资依据;您需自主做出决策,自行承担风险和损失。九方智投提醒您,市场有风险,投资需谨慎。

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈