格隆汇11月2日丨中铁工业(600528.SH)在投资者互动平台表示,公司算力集群标称算力规模为10P,该指标基于FP16(半精度浮点) 精度测算,属于高精度算力规格,并非低精度(如INT8等)口径下的等效算力。100路并发指的是公司算力集群在部署大模型运行时所支撑的并发推理路数。在该并发负载下,集群整体推理吞吐能力可达20 token/s。上述指标为集群在特定模型、特定部署条件下的实测/标称能力,实际表现会随模型规模、输入输出长度、批处理策略及系统调度等因素有所差异。
中铁工业(600528.SH):公司算力集群标称算力规模为10P
格隆汇 11-02 15:52
中铁工业 --%
格隆汇11月2日丨中铁工业(600528.SH)在投资者互动平台表示,公司算力集群标称算力规模为10P,该指标基于FP16(半精度浮点) 精度测算,属于高精度算力规格,并非低精度(如INT8等)口径下的等效算力。100路并发指的是公司算力集群在部署大模型运行时所支撑的并发推理路数。在该并发负载下,集群整体推理吞吐能力可达20 token/s。上述指标为集群在特定模型、特定部署条件下的实测/标称能力,实际表现会随模型规模、输入输出长度、批处理策略及系统调度等因素有所差异。
免责声明:用户发布的内容仅代表其个人观点,与九方智投无关,不作为投资建议,据此操作风险自担。请勿相信任何免费荐股、代客理财等内容,请勿添加发布内容用户的任何联系方式,谨防上当受骗。
相关股票
相关板块
相关资讯
扫码下载
九方智投app
扫码关注
九方智投公众号
头条热搜
涨幅排行榜