正在阅读:

国产大模型推理成本持续下探,南方基金麦骏杰关注AI通胀主线

扫一扫下载界面新闻APP

国产大模型推理成本持续下探,南方基金麦骏杰关注AI通胀主线

南方基金麦骏杰把握AI产业趋势,以行业发展趋势与核心驱动要素为导向,聚焦技术革新、政策导向与需求升级,寻找新技术成长方向及中期供需矛盾行业。

近日,国内某大模型企业发布新一代模型,采用552B参数混合专家架构与因果编码器-解码器新结构,将每Token全局KV缓存占用压缩至约890字节,约为上一代模型的四分之一,对应高带宽内存需求降至四分之一、固态硬盘需求降至八分之一。官方称其综合性能超过此前旗舰模型,API价格最高下调60%,并同步上线国家超算互联网。推理成本的持续下探有望进一步降低AI应用部署与调用门槛,加速AI应用规模化落地进程。

南方基金麦骏杰把握AI产业趋势,以行业发展趋势与核心驱动要素为导向,聚焦技术革新、政策导向与需求升级,寻找新技术成长方向及中期供需矛盾行业。其管理的南方新兴龙头混合聚焦"AI通胀"方向。

南方新兴龙头灵活配置混合(A类:002577/C类:028537)


未经正式授权严禁转载本文,侵权必究。如需转载请联系:youlianyunpindao@163.com
以上内容与数据仅供参考,与界面有连云频道立场无关,不构成投资建议,使用前请核实。据此操作,风险自担。

南方基金

5.4k
  • 南方基金旗下通信ETF南方(159511)标的指数强势涨超4%,光通信景气度从模块向全产业链扩散
  • 全国产算力大模型正式发布,南方基金吴春林聚焦国产科技核心资产

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

国产大模型推理成本持续下探,南方基金麦骏杰关注AI通胀主线

南方基金麦骏杰把握AI产业趋势,以行业发展趋势与核心驱动要素为导向,聚焦技术革新、政策导向与需求升级,寻找新技术成长方向及中期供需矛盾行业。

近日,国内某大模型企业发布新一代模型,采用552B参数混合专家架构与因果编码器-解码器新结构,将每Token全局KV缓存占用压缩至约890字节,约为上一代模型的四分之一,对应高带宽内存需求降至四分之一、固态硬盘需求降至八分之一。官方称其综合性能超过此前旗舰模型,API价格最高下调60%,并同步上线国家超算互联网。推理成本的持续下探有望进一步降低AI应用部署与调用门槛,加速AI应用规模化落地进程。

南方基金麦骏杰把握AI产业趋势,以行业发展趋势与核心驱动要素为导向,聚焦技术革新、政策导向与需求升级,寻找新技术成长方向及中期供需矛盾行业。其管理的南方新兴龙头混合聚焦"AI通胀"方向。

南方新兴龙头灵活配置混合(A类:002577/C类:028537)

未经正式授权严禁转载本文,侵权必究。