北京时间今天（3月19日）凌晨4点，2024年英伟达GTC大会开启。英伟达创始人黄仁勋身着标志性的皮衣，登上GTC2024大会的演讲台，发表主题演讲《见证AI的变革时刻》。这一次，他带来一个震撼炸弹被他称作史上最强AI芯片的“GB200”。
（来源：中信证券）
英伟达美股开盘涨超4%，市值再度接近2.3万亿美元。放眼今年，英伟达的股价已大幅飙升超过80%，市值一度达到2.3万亿美元。其中在2月22日，英伟达股价大涨16.4%，市值单日飙升2770亿美元相当于可口可乐公司的市值，创下美国公司市值单日最大涨幅纪录。
空头们也盯上了英伟达。根据S3Partners的最新数据，英伟达股票近期录得被做空股票第三名，做空规模约为183亿美元，仅次于微软和苹果。不过，对英伟达的巨额做空至今仍无利可图。数据显示，截至上个月，做空英伟达的投资者共损失近70亿美元。
（来源：英伟达发布会截图）
加速计算和生成式AI已达到一个转折点。AI是被加速计算所支持，可能是技术产业中最伟大的发明。AI很可能是21世纪最重要的事物。
（来源：英伟达发布会截图）
与往年不同，今年机器人被单独划分为大会主题之一，大会上有来自包括英伟达具身智能实验室、安川电机、波士顿动力、苏黎世联邦理工学院等企业和高校的科技大牛来到GTC大会进行机器人专题交流。大模型、生成式AI等AI技术赋能机器人的内容值得期待，GEAR实验室的联合创始人JimFan也会在本次GTC大会上做主题演讲，届时有望展示机器人大模型的最新进展。
（来源：英伟达发布会截图）
今年的GTC大会包涵900多场会议，划分为16个主题，机器人是其中之一。大会上将会展示来自AgilityRobotics、BostonDynamics、Disney、GoogleDeepMind等企业的25台机器人。共有十余场机器人相关主题会议，从会议主题来看，生成式AI、深度学习在机器人上的部署是热门话题，AI赋能机器人的内容值得期待。
（来源：英伟达发布会截图）
一、英伟达GTC大会亮点
英伟达推出的新一代GPU“Blackwell”采用台积电4nm制程，整合两个独立制造的裸晶（Die），共有2080亿个晶体管，通过NVLink5.0像拉链一样捆绑芯片。每个BlackwellDie的浮点运算能力要比上一代HopperDie高出25%，而且每个封装中有两个Blackwell芯片，总性能提高了2.5倍。
（来源：英伟达发布会截图）
英伟达每隔1-2年提出新的芯片架构以适应计算需求升级。
（来源：中泰通信）
B100：性能翻倍，带宽、显存等大幅提升
（来源：中泰通信）
英伟达加快液冷方案布局
英伟达积极与行业伙伴合作创新液冷方案。2022年推出基于直接芯片冷却技术（Direct-to-chip）的A100800GPCIe液冷GPU，较风冷版本性能相当，电力节省约30%，单插槽设计节省最多66%的机架空间。
2023年，与Vertiv、BOYD、Durbin、霍尼韦尔等6家行业伙伴合作打造混合液冷创新方案，将芯片直接冷却、泵送两相（P2P）和单相浸没式冷却集成在带有内置泵和液体-蒸汽分离器的机架歧管中，使用两相冷板冷却芯片，其余具有较低功率密度的服务器组件将浸没在密封的浸没式箱体内，服务器使用绿色制冷剂分别进行两相冷却和浸没冷却。相较当前无法处理高于400W/cm²功率密度的液冷，混合冷却支持服务器机架功率高达200kW，是目前的25倍，与风冷相比成本至少降低5%，冷却效率提高20%。
同时与台积电、高力等合作开发AIGPU浸没式液冷系统。
2024年3月，Vertiv与英伟达专家团队共同针对GPU型高密数据中心制冷方案进行研发测试并发布实测数据，结果显示冷板液冷和风冷的创新风液混合制冷方案中大约75%的IT负载可通过冷板液冷技术实现有效冷却，IT负载从100%风冷转型为75%液冷的方案时，服务器风扇用电量降低最多达到80%，使总体使用效率（TUE）提高15%以上。
（来源：英伟达发布会截图）
冷板式液冷或率先放量，浸没式液冷技术不断优化。液冷技术目前主要包括冷板式液冷、浸没式液冷和喷淋式液冷三种，其中冷板式液冷将服务器芯片等高发热元件的热量通过冷板间接传递给液体进行散热,低发热元件仍通过风冷散热，兼具性能与价格优势，技术相对成熟；浸没式液冷将服务器完全浸入冷却液中，全部发热元件热量直接传递给冷却液,通过冷却液循环流动或蒸发冷凝相变进行散热，散热效率更高，数据中心基础设施中应用比例有望逐步提升，但对冷却液要求严格，在建设改造以及后续管理维护方面成本更高。
（来源：中泰通信）
温控、IDC、服务器、运营商等多方积极部署液冷路线。随着AI发展，液冷产业链参与者不断增加，上下游协同增强。英维克、申菱环境等领先温控厂商普遍推出数据中心液冷解决方案，润泽科技、科华数据等IDC厂商积极改造或新建液冷智算中心，新华三、中兴通讯等ICT设备厂商均推出液冷服务器，以提升自身竞争力，满足客户需求。
（来源：英伟达发布会截图）
GB200则包含了两个B200BlackwellGPU和一个基于Arm的GraceCPU组成，其AI性能为每秒20千万亿次浮点运算，而H100为每秒4千万亿次浮点运算。同时，GB200的成本和能耗降至25分之一。英伟达表示以前训练一个1.8万亿个参数的模型，需要8000个HopperGPU连续跑上90天和，消耗掉15兆瓦的电力。如今2000个BlackwellGPU就能完成这项工作，90天的耗电量仅为4兆瓦。
（来源：英伟达发布会截图）
NVSWITCH有72端口，双向200GSerDes。GB200的性能是H100的7倍，训练速度是H100的4倍。
关于光模块比例，NVLink5.0带宽翻倍，单卡双向传输带宽达到1800GB，单向对应900GB，两层网络架构下，对应GPU与光模块配比达到1:9，第一层走铜，与gh200基本一致。若按海外投行推测gb200出货50万，则1.6t光模块需求量巨大。
（来源：英伟达发布会截图）
1、Nvidia发布新一代Blackwell架构
1）Blackwell架构GPU包含2080亿个晶体管，采用定制4NP台积电工艺制造，适用192GBHBM3e内存，可以支持多大10万亿参数的AI模型；
2）单一GPU20petaFLOPS（FP4）、10petaFLOPS（FP8）AI性能表现，4倍训练性能、30倍推理性能、25倍能耗表现提升。（之前训练GPT-4，需要90天，8000张HopperGPU，15兆瓦功耗；现在训来呢GPT-4，在相同时间下，仅需要2000张BlackwellGPU，功耗仅4兆瓦）
3）第二代Transformer引擎，Blackwell支持4位浮点AI推理能力；
4）第五代NVlink，为每个GPU提供了突破性的1.8TB/s双向吞吐量，确保多达576个GPU之间无缝高速通信；
5）引入RAS引擎，利用给予人工智能的预防性维护来运行诊断和预测可靠性问题，最大限度延长系统正常运行时间；
6）安全的人工智能，在不影响性能情况下保护AI模型和客户数据，并支持新的本机接口加密协议，对医疗、金融等领域至关重要；
（来源：英伟达发布会截图）
2、Nvidia发布GB200超级芯片
1）架构：将两个B200BlackwellGPU连接到一个GraceGPU；
2）价格：目前没有透露；
3）上市时间：24年；
4）客户：亚马逊、戴尔、谷歌、meta、微软、OpenAI和特斯拉等客户计划实用BlackwellGPU。
（来源：英伟达发布会截图）
3、Nvidia发布NVIDIAGB200NVL72液冷机架系统
1）NVIDIAGB200NVL72是一种多节点、液冷、机架规模系统，适用于计算最密集的工作负载；
2）36个Blackwell超级芯片，包括72个BlackwellGPU和36个GraceCPU；
3）与相同数量NVIDIAH100TensorCoreGPU相比，GB200NVL72对于LLM推理工作负载性能提升高达30倍，并将成本和能耗降低高达25倍。
4）该平台充当单个GPU，具有1.4exaflops的AI性能和30TB的内存。
（来源：英伟达发布会截图）
4、Nvidia将数字建模技术引入苹果VisionPro
1）Nvidia展示了一个完全交互的汽车模型，并将该模型传输到苹果VisionPro中；
2）苹果VisionPro的高分辨率同Nvidia的加速计算流式传输的OpenUSD相结合，为推进沉浸式体验带来了绝佳的机会。
（来源：英伟达发布会截图）
5、Nvidia推出用于人形机器人的AI模型
1）Nvidia正致力于将AI机器人变为现实；
2）Nvidia宣布了ProjectGROOTFoundation人形机器人基础模型，由GROOT驱动的机器人将被设计为可以理解人类语言，且可以通过观察模仿人类运动；
3）发布给予NVIDIAThor片上系统的人形机器人新型计算机JetsonThor（基于Blackwell架构，提供800teraflopsfp8算力），对NVIDIAIssac机器人平台重大升级。
（来源：英伟达发布会截图）
智能驾驶：2022年英伟达发布全新一代自动驾驶SoC芯片Thor，内部拥有770亿个晶体管，算力高达2000TFLOPS，较此前Orin提升8倍，计划2024年量产，极氪将于2025年搭载首发。
（来源：英伟达发布会截图）
光通信：硅光/LPO/CPO前沿技术方向。硅光：技术集成化更具优势。LPO：线性驱动可插拨光模块。CPO：光电共封装。交换ASIC芯片和硅光引擎（光学器件）在同一高速主板上协同封装，集中解决散热问题，同时也可以省去很多SerDes功能，节省功耗，是有望最有潜力实现高集成度、低功耗和低成本的封装方案。但是由于目前的技术与产业链尚不成熟等原因，短期内难以大规模应用。预计从1.6T开始，传统可插拔速率升级或达到极限，后续光互联升级可能转向CPO和相干方案。
二、AI+医药：
TDCowen访谈了英伟达医疗副总裁：数千亿美金市场机会NVIDIA医疗保健副总裁将医疗保健行业的数字化转型描述为技术领域最大机会之一，英伟达来自医疗保健的收入已经超过10亿美元（直接和间接），并且市场机会可能随着时间的推移达到数千亿美元，当然这些不会全部归NVIDIA，但随着全球医疗行业的研发和资本支出向生成式AI计算转移，英伟达非常有希望捕获重大价值。
NVIDIA看到了三个方向：
1）在药物发现，看到了大约2500亿美元的年度支出机会，随着时间的推移，可能会切到更多的加速计算支出。
2）在医疗工具和仪器方面，英伟达正在利用AI在诊断成像、微创和机器人手术以及基因组测序等领域。
3）英伟达认为AI辅助工具在记录医疗数据（减轻医生和护士的负担）以及通过检索增强生成（RAG）访问这些数据（改善患者结果）方面具有重大实用性。
药物发现：
1）提高治疗成功的概率，
2）加快研发时间表，从而提前获得批准，与传统方法相比节省数年时间；
3）降低研发成本——我们估计至2026年，每年可节省约500亿美元。几乎所有公共和私人AI药物发现公司都在某种程度上使用NVIDIA，推动了对计算的需求，而且在未来可预见的时间内没有减缓的迹象。NVIDIA的BioNemo市场，本质上是一个开源AI药物发现工具的应用商店，可以通过他们的超大规模合作伙伴或通过DGX云服务跨云访问，这使得AI药物发现公司利用市场中的基础模型，然后利用他们的专有数据和实验室来验证他们的内部药物发现模型。第一个获批的“AI药物”将是行业的一个里程碑时刻。
NVIDIA今日推出二十多项全新微服务，使全球医疗企业能够在任何地点和任何云上充分利用生成式AI的最新进展。全新NVIDIA医疗微服务套件包含经过优化的NVIDIANIMAI模型和工作流，并提供行业标准应用编程接口（API），可用于创建和部署云原生应用。它们提供先进的医学影像、自然语言和语音识别以及数字生物学生成、预测和模拟功能。
此外，NVIDIA加速的软件开发套件和工具，包括Parabricks、MONAI、NeMo、Riva、Metropolis，现已通过NVIDIACUDA-X微服务提供访问，以加速药物研发、医学影像、基因组学分析等医疗工作流。
这些微服务，其中25个已于今天推出，可以加快医疗企业的转型，因为生成式AI为制药公司、医生和医院带来了众多的机会。其中包括筛选数万亿种药物化合物以促进医学发展、收集更完善的患者数据以改进早期疾病检测、实现更智能的数字助手等。研究人员、开发者和医疗从业人员使用这些微服务可以轻松地将AI集成到全新的和现有的应用中，并在从云端到本地等任何地点运行这些应用，从而增强他们所从事的生命救助工作。
NVIDIA医疗业务副总裁KimberlyPowell表示：“我们有史以来第一次在计算机中表达生物学和化学的世界，使计算机辅助药物研发成为可能。在我们的帮助下，医疗企业能够轻松构建和管理AI解决方案，以充分利用生成式AI的全部功能和潜力。”
NVIDIANIM医疗微服务适用于推理：全新医疗微服务套件中的NVIDIANIM可以为医学影像、医疗科技、药物研发和数字健康等领域日益增加的模型提供经过优化的推理。这些模型可用于生成式生物学和化学以及分子预测工作。NIM微服务现已通过NVIDIAAIEnterprise5.0软件平台提供。
这套微服务还包含一系列用于药物研发的模型，例如生成式化学模型MolMIM、蛋白质结构预测模型ESMFold以及帮助研究人员了解药物分子如何与靶点相互作用的模型DiffDock。VISTA3D微服务可加快3D分割模型的创建速度。相较于在CPU上运行的普通DeepVariant，UniversalDeepVariant微服务可将基因组分析工作流中的变体识别速度提高50倍以上。
改善患者与临床医生的互动;生成式AI正在改变患者护理的未来。HippocraticAI正在开发针对特定任务的生成式AI医疗代理，其由该公司专注于安全的医疗大语言模型（LLM）提供支持，与NVIDIAAvatar云引擎（ACE）微服务相连并将使用NVIDIANIM实现低延迟推理和语音识别。这些AI医疗代理与患者对话，完成预约、术前提醒、出院后随访等工作。
三、AI+机器人：大模型赋能机器人智能化，英伟达入局加速行业发展
黄仁勋演讲棍关于机器人部分：
1、英伟达为机器人研发了三类电脑：DGX、OVX、AGX，分别对应AI、仿真及机器人开发平台。
2、工业机器人及工业场景：英伟达与比亚迪、西门子、日产、欧莱雅、苹果Applevisionpro等，在工业机器人、自动驾驶、产品设计与开发、工厂管理等方面大量合作。
（来源：英伟达发布会截图）
3、人形机器人方面
1）机器人，尤其是人形机器人是AI在物理世界落地的重要载体。
2）英伟达专门用于机器人开发的AGX平台：Jetsoncomputer能够实现非常好的兼容性，目前服务超过130万机器人开发者。
3）英伟达视频展示了人形的简单动作（行走、搬运）、复杂动作（榨汁、锻炼）、语音交互、表情输出等。
4）英伟达现场展示了9款成人体型机器人，主要动作是招手打招呼；两款儿童体型机器人，主要动作为快走、转动身体、转动脖颈、蹲下、起身及与黄仁勋的交互（听指令走到身边、交流、静声等）。
5）robotics被放在了与blackwell、nim、NVIDIAAIfoundry并列的位置，体现了其重要性。
6）3D建模、传感及台积电流片的重要性，英伟达某种意义上是foundry，他们较为依赖台积电的流片。
（来源：英伟达发布会截图）
2024年3月13日，机器人初创公司Figure发布了在OpenAI大模型加持下的第一个机器人演示视频。视频中，人形机器人能流畅地与人类对话，并且理解周围场景，在收到语音指令后，能够通过分析判断做出相应的动作。英伟达在机器人大模型上也早有布局，有Eureka灵巧手及VIMA机械臂项目。
2024年2月24日，英伟达宣布成立通用具身智能体研究实验室GEAR，加速人工智能具身化进程。GEAR实验室的联合创始人JimFan也会在本次GTC大会上做主题演讲，届时有望展示机器人大模型的最新进展。
（来源：英伟达发布会截图）
机器人核心零部件企业：
3）减速器：双环传动、绿的谐波、中大力德、丰立智能、精锻科技、豪能股份、夏厦精密；4）丝杠：贝斯特、五洲新春、北特科技、斯菱股份、鼎智科技等；
5）传感器：柯力传感、奥迪威、华依科技、奥比中光、芯动联科等；
参考资料：
20240318-中泰通信-通信：新一代GPU、具身智能与AI应用——英伟达GTC专题
20240318-中信证券-新能源汽车行业英伟达GTC大会前瞻（一）—机器人亮相英伟达技术盛会，具身智能加速发展
投资顾问：王德慧（登记编号：A0740621120003），本报告中的信息或意见不构成交易品种的买卖指令或买卖出价，投资者应自主进行投资决策，据此做出的任何投资决策与本公司或作者无关，自行承担风险，本公司和作者不因此承担任何法律责任。
