行情中心 沪深京A股 上证指数 板块行情 股市异动 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递

面壁智能发布新一代开源模型MiniCPM-V 4.7 可在端侧无损运行

上海证券报 10-13 18:11

瑞芯微 --%

上证报中国证券网讯记者10月13日从面壁智能据悉,公司正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、每次推理仅激活30亿。面壁智能方面介绍,这是首个可在端侧无损流畅运行的开源MoE模型,仅约3GB内存即可运行,解码速度达15+token/s。

发布当日即支持瑞芯微、NVIDIA、Intel和Apple等国内外主流芯片平台,同时,支持iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。1B版本主打端侧极致效率,让旗舰级能力跑进更多端侧设备。

据介绍,该突破的背后是面壁智能自研的LES(前瞻专家调度)技术,该技术可以做到提前预判、无缝衔接:系统会提前预测接下来要用到哪些专家,趁当前计算还在进行时就把他们提前加载好,让加载与计算同步推进。面壁智能相关人士透露,该技术目前为业界独家开源方案。

截至目前,由面壁智能联合OpenBMB开源社区发布的MiniCPM系列开源模型,全球累计下载量已突破6000万次,覆盖文本、视觉、语音全模态。

免责声明:用户发布的内容仅代表其个人观点,与九方智投无关,不作为投资建议,据此操作风险自担。请勿相信任何免费荐股、代客理财等内容,请勿添加发布内容用户的任何联系方式,谨防上当受骗。

举报

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈