【中国电信完成业界首个国产算力的跨架构大模型推理技术验证】《科创板日报》12日讯,中国电信研究院联合中科院计算所、华为昇腾、沐曦等,依托中国电信云网融合技术中试验证平台,成功完成业界首个面向国产算力的跨架构大模型推理技术验证。通过自研Triton跨架构编译器与统一大模型算子库,实现同一套算子源码在英伟达、昇腾、沐曦三类芯片上无缝运行,已完成10余款主流开源模型在三类芯片上的端到端推理测试,将大模型算子适配周期从“周级”压缩至“天级”,性能达到原生算子库90%。(记者 黄心怡)
中国电信完成业界首个国产算力的跨架构大模型推理技术验证
财联社 12-12 20:34
中国电信 --%
【中国电信完成业界首个国产算力的跨架构大模型推理技术验证】《科创板日报》12日讯,中国电信研究院联合中科院计算所、华为昇腾、沐曦等,依托中国电信云网融合技术中试验证平台,成功完成业界首个面向国产算力的跨架构大模型推理技术验证。通过自研Triton跨架构编译器与统一大模型算子库,实现同一套算子源码在英伟达、昇腾、沐曦三类芯片上无缝运行,已完成10余款主流开源模型在三类芯片上的端到端推理测试,将大模型算子适配周期从“周级”压缩至“天级”,性能达到原生算子库90%。(记者 黄心怡)
免责声明:本页所载内容来旨在分享更多信息,不代表九方智投观点,不构成投资建议。据此操作风险自担。投资有风险、入市需谨慎。
相关股票
相关板块
相关资讯
扫码下载
九方智投app
扫码关注
九方智投公众号
头条热搜
涨幅排行榜