随着人工智能(AI)从“百模大战”走向应用落地，算力需求也从训练走向推理。AI训推一体机因为能满足企业开箱即用、安全、本地化部署需求，且支持大模型训练、推理及AI应用开发全流程，在市场上逐渐走俏。

国际数据公司IDC统计显示，今年以来，国内市场已有近百家厂商推出训推一体机相关产品，其中包括不少上市公司。中兴通讯、神州数码等公司向证券时报记者透露，目前其训推一体机相关产品销售火热。

训推一体机火了

“今年公司旗下神州鲲泰训推一体机产品销售态势呈现显著增长，市场表现亮眼。”神州数码信创业务集团行业解决方案总监胡朋辉向证券时报记者透露。

无独有偶，中兴通讯战略和生态首席专家屠嘉顺也对证券时报记者表示：“截至今年上半年，公司已完成数百台训推一体机销售，已覆盖15个行业，政务、教育、医疗、通信等行业需求旺盛。”

IDC中国研究经理程荫对记者表示，智算一体机更侧重大模型训练端，而训推一体机则更偏重推理端，强调同时支持企业大模型训练与推理及应用开发等全链条服务。“前两年主要是智算一体机等比较火，今年则训推一体机相关产品比较火，但目前市场也有部分具备训推一体机功能的产品取名为智算一体机，区别主要在功能上。”

在程荫看来，训推一体机相关产品需求旺盛原因有二：一是年初DeepSeek爆火后，因其开源、蒸馏、强化学习等优势，国内企业涉足AI的门槛大幅降低，企业训练大模型的成本也大幅下降，各类中小企业都希望抢抓AI发展机遇，推出自己的AI应用产品等，进而需要进行大模型推理，导致算力需求从训练转向推理。训推一体机集DeepSeek等多种大模型于一体，支持大模型训练、推理、应用开发等全流程，可满足企业开箱即用的需求，帮助加速AI应用的落地。

二是DeepSeek被视为AI技术标杆，各地政府、央国企纷纷部署，优化政务办公。同时，对于一些有着大量敏感数据的用户，私有化部署可确保数据被安全地处理，以及避免敏感信息外流，训推一体机相关产品能够满足制造、能源、政务、医疗、金融等行业私有化部署的需求。

市场前景被看好

训推一体机爆火背后，是人工智能应用的加速落地。

在近日举行的2025中国算力大会上，华为公司副总裁、数据存储产品线总裁周跃峰表示，AI正在从Generative AI(生成式AI，下称GenAI)迈向Agentic AI(智能体AI)。IDC预计，2025年智能体市场将呈现爆发式增长，市场规模将同比增长约260%。

在此背景下，训推一体机相关产品的市场前景获行业普遍看好。

“面向千行万业的智能体是未来智能社会的核心。智能体需要能满足各个企业的个性化需求，公司AiCube智算一体机不仅是一体化智算平台，更是企业AI能力整合中枢，内置的‘Agent智能体工厂’，打通从智能体构建到应用落地的全流程，可加速AI与业务的无缝协同。”屠嘉顺说。

“AI的下半场，将是变现的时代。下一步GenAI将持续迭代发展，在AI业务的敏捷开发方面，将向高效、快速方向发展，业务应用将向专、精、深的行业场景靠拢。”胡朋辉告诉记者，训推一体机作为精简和高性能的AI基础架构，已经逐渐成为小型化方案中的主流，能够将不同的IT基础设施进行整合和统一管理。同时，面对“云边一体化”的需求，训推一体机也能够满足边缘环境的轻量化云基础架构需求。

“为了快速和低成本地构建本地AI基础架构，很多政企都会采用轻量化、集成度高的训推一体机解决方案。训推一体机将成为混合云AI基础架构的重要组成部分，通过更加完善的部署和交付方案，在技术架构、资源调度、运维管理等方面提升对客户相关业务系统、数据体系、智能应用的支撑能力。同时，训推一体机对于边缘计算环境的良好适配性，将有效提升客户对于云边协同平台的构建能力。”胡朋辉说。

程荫表示，如果更多企业部署AI，训推一体机市场将会迎来进一步发展。随着大模型从千亿参数向行业精调模型演进，训推一体机通过软硬一体的集成解决方案，实现特定场景的私有化部署，缩短部署周期，降低中小企业大模型的使用门槛。

上市公司纷纷抢滩

据IDC统计，今年以来，训推一体机市场吸引了硬件与服务器、云服务、行业应用开发、大模型和AI技术供应商等多方参与，已有近百家厂商推出AI一体机产品，其中包括不少上市公司。

中兴通讯便是重要参与方之一。据了解，目前该公司推出AiCube智算一体机，集成Qwen/DeepSeek国产大模型、智能体工厂等相关产品，在水利、医疗、汽车、教育、钢铁等15个行业21个场景应用实现商用，成为AI大模型在行业落地的样本，助力企业智能化转型。

例如，在AI教育领域，中兴通讯与浙江大学合作推出的智海教育一体机，可提供AI通识课、专业课、实践实训，加速人工智能教育的普及;在AI医疗领域，公司与某三甲医院合作，分钟级生成分析结果与诊断报告，准确率突破95%;在AI汽车设计领域，其与东风汽车合作，实现“一键成车”图片输出，显著提升了设计效率，同时丰富了创意方案产出。

神州数码在训推一体机领域已形成覆盖多场景、多算力需求的产品矩阵。神州数码方面透露，随着新一代搭载DDR5、PCIe 5.0接口的机型及高性能多卡配置产品进入小批量试点，公司将进一步充实公司训推一体机产品矩阵，为后续市场拓展提供更强支撑。

“从行业需求来看，金融、政府、能源三大领域表现尤为突出。”胡朋辉说，金融行业智能风控、量化交易等场景对算力的需求激增，训推一体机成为其构建AI模型训练与实时推理能力的核心设备;政府部门在城市治理、政务智能化升级中，对多场景适配的算力解决方案需求迫切;能源行业则依托训推一体机在新能源预测、智能巡检等方面实现数字化转型。

此外，拓维信息、广电运通、深桑达A、云天励飞、恒为科技、大华股份、云从科技、中国长城、浪潮信息、紫光股份、烽火通信、深信服等均已涉足训推一体机领域。

落地痛点待解决

多位行业人士表示，各行业在部署和应用训推一体机的过程中，均面临一系列挑战，主要体现在AI生态的复杂性，以及垂直行业在AI软硬件集成与优化能力上的欠缺等。

训推一体机需要将硬件设备与软件系统进行深度集成和优化，这需要对底层硬件、上层软件以及Agent应用进行整合。面对不同的行业应用场景，如果企业在优化软件时对大模型的优化不足，会使得训推一体机因不懂行业知识，在处理复杂任务时速度较慢，无法满足企业的实际需求。另外，AI算力厂商百花齐放，如何整合、兼容不同计算架构下的AI计算资源，也将成为行业要面对的实际问题。

业内人士建议，训推一体机应加强集群扩展能力，并纳入云管理体系，以便更好地支撑客户GenAI模型和应用的全链路开发，满足运维过程中对规模扩充的需求。

程荫认为，当前训推一体机仍处于初步落地阶段。在各厂商差异化竞争方面，硬件与服务器企业因支持本地算力芯片的混部调度，在制造、能源等领域具备落地优势;运营商及行业应用开发商能够为客户提供私有化场景的智算解决方案，在央国企、金融、医疗等领域的本地化部署中具备优势;云计算厂商基于云服务，在全栈自主研发和性能优化、软硬件融合调优和推理加速方面有优势，支持性能要求高的复杂推理，能够满足实时性要求高且资源有限的场景;大模型和AI基础设施创新企业的优势，在于提供专为大模型部署与应用设计的软硬协同产品，让中小企业也能以低成本获得AI能力。