行情中心 沪深A股 上证指数 板块行情 股市异动 股圈 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 龙虎榜 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递 科技龙头指数

京东云发布JoyScale AI算力平台等九大产品 助力企业重构AI基础设施

证券时报网 05-20 14:33

false --%

大模型加速奔跑,深度应用全面开启。5月20日,京东云城市大会在上海顺利举行,京东云发布JoyScale AI算力平台、JoyBuild大模型开发计算平台、JoyAgent智能体2.0等九大产品,三大垂直行业一体机,助力企业全面重构AI基础设施,生成企业专属数字员工,加速迈向深度应用。

京东集团技术委员会主席、京东云事业部总裁曹鹏表示,“随着深度应用加速来临,数字员工的上岗率将成为衡量一个企业先进性的标准。有多少工作是AI完成的,决定了企业未来能跑多快。新一代Agent成为深度应用的代表,京东云JoyAgent2.0正在帮助企业生成专业数字员工。同时,大规模应用爆发,也将推动AI基础设施迈向标准化,AI Infra1.0已经具备。”

京东云认为,全面走向深度应用,企业当下需要做好三件事:

分钟级部署+零门槛接入 大模型一体机助力企业快速尝鲜大模型

一体机作为最快速部署大模型的方式之一,是尝鲜企业级AI的最佳路径。过去三个月,“开箱即用”的京东云大模型一体机跑出“新速度”,从江浙沪到湘赣鲁,多省市全面铺开,医疗、汽车、教育、制造、泛互多行业深度渗透,全国规模化落地突破500台。京东云大模型一体机软硬协同,支持千人规模企业并发需求,实现推理速度提升50%,满血版、标准版、轻量版为不同规模企业提供灵活选择,助力企业快速构建企业级AI服务能力,极大降低专业技术门槛。

今天,京东云正式发布三大垂直行业一体机。

· 医疗一体机:医疗领域将融合京医千询大模型,实现智能问诊、病历分析、辅助诊疗等功能;

· 工业一体机:工业场景将集成京东工业供应链大模型,预置供应链管理、智能排产等模块;

· 金融一体机:金融行业将在保障数据安全合规基础上,针对券商、银行等机构需求进行优化适配。

深度应用全面开启,智能体重塑AI生产力

虽然“超级应用”还有距离,但聚焦企业端的“深度应用”已奔涌而至,正在加速渗透到需要投入大量人力进行重复劳动的场景。随着大模型及智能体技术的持续升级,行业正加速迈向深度应用阶段。

京东正是大模型深度应用的超级孵化器。数据显示,近三个月京东大模型服务调用量爆发式增长,环比提升200%;超1.4万个智能体在京东内部运行,解决超18%的工作内容,外卖员招聘、财务管理等大面积使用;各类大模型应用已深入到京东零售、物流、医疗等细分业务场景,为超50万商家、超38万快递小哥、超5万副主任以上级别医生、超2万采销运营、超1万研发提高工作效率和提升服务体验。

智能体,是深度应用方面最具代表性的方向。成长于京东自身业务系统的JoyAgent 智能体 2.0全新升级, 基于混合代理模型(Mixture-of-Agents,MoA),融合大小型模型的优势,通过规划推理构建动态DAG执行引擎,大幅提升任务执行效率;集成了覆盖搜索、数据分析、代码开发等领域的丰富工具链,支持文本、图像、视频等多模态输入输出,为企业提供全面智能支持;还通过自研多智能体协同引擎,多个智能体可在对话规划、推理上协同工作,通过自我对话优化策略。

GAIA Benchmark 的 Level 1-3 测试中,JoyAgent 表现卓越,尤其在复杂任务处理上优势明显,超越众多竞争对手。实现从过去被动响应需求,进化为能主动聚焦问题、精准运算、深度分析、和智能决策、精准执行。

相较于通用智能体,JoyAgent在企业场景展示出更多优势。

· 在研发场景,JoyCode智能编码助手持续进化,实现开发即部署,代码采纳率超过40%,开发周期缩短30%,京东上万名研发人员都在使用;

· 在直播场景,京东数字人已经在9000+商家开播,高保真低成本的人体建模技术、多模态自然化行为生成等数字人技术栈更新,高商业可用数字人正式上线服务,618向京东商家免费开放,助力直播转化;

· 在政务服务场景,基于JoyAgent构建的智能政务研报服务,可根据历史报告自动识别模板,进行指标试算、验证,自动生成新报告,识别准确率超98%,已深度应用在北京亦庄、上海普陀等政务平台上。

技术栈迎来全面重构 AI基础设施走向标准化

随着大模型应用的深入,以CPU为中心的架构在支持AI原生应用上面临挑战,需要以GPU为中心重塑基础设施;此外,面对激增的推理需求,计算资源持续增加,企业需要思考资源投入产出的问题,都指向需要一套AI Native的基础设施。

在大模型开发应用方面,JoyBuild支持多类模型的调优开发,内置20余种开源模型和丰富的数据集,提供100余种算法和工具链。围绕开源模型蒸馏需求的不断增加,可以帮助客户根据自身业务特征,用自有数据进行大模型的蒸馏,快速开发专属大模型。

京东大模型开发计算技术相关论文被《Nature》收录,为国内首次系统性解决开放环境下大模型开发效率难题,这套技术也支撑了JoyBuild应用。此外,JoyBuild推理引擎基于大规模专家并行推理集群技术,提升高并发下并行度,实现单Token推理成本降低80%。

在计算方面,京东云发布全新的JoyScale AI算力平台——以GPU为核心,高效异构计算,强大推理性能。具备两大核心优势:

· 极致的算力性能。面向大模型训推需求,JoyScale支持单集群万卡调度、全局超10万卡调度能力,支持跨智算中心横向扩展,通过软硬件协同优化,将大模型算力利用率MFU从45%提升至75%。

· 灵活的异构算力管理。JoyScale全面适配十余家国产算力,支持异构算力统一纳管、精细化运维,通过集群算力池化调度,提升集群利用率70%。

在存储方面,云海AI存储基于京东全自研的引擎,对AI训练语料的随机访问达到1000万级,单集群支持TB级超大带宽,能有效支持千亿级参数AI大模型的训练。云海针对性地提供了原生 KV Cache 特性,支持主流推理框架,以存代算的模式显著提升了推理性能,长文推理成本下降 40%,长文/多轮对话响应延迟降低 60%。

大模型浪潮汹涌澎湃,京东云将持续深耕技术,以更开放、更协同的生态理念为引领,不断拓展和深化大模型技术的边界与应用。同时,凭借在京东内部场景千锤百炼的深度应用经验,打造出的极致性能、极致性价比的技术与产品,助力更多企业重塑AI生产力。

免责声明:用户发布的内容仅代表其个人观点,与九方智投无关,不作为投资建议,据此操作风险自担。请勿相信任何免费荐股、代客理财等内容,请勿添加发布内容用户的任何联系方式,谨防上当受骗。

举报

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈