美团LongCat-2.0开源,同步开放国产卡推理代码

7月6日,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2.0总参数1.6T,平均激活约48B,架构上引入LongCat稀疏注意力和N-gram Embedding,提升长上下文处理效率与token级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。本次开源同步提供BF16、FP8以及INT8等多精度版本,全面覆盖不同算力平台的部署需求,同时将针对国产算力极致优化的推理成果同步开源。这意味着,即使手上没有最新算力,也能基于现有硬件将LongCat-2.0稳定跑起来。

未经正式授权严禁转载本文,侵权必究。

美团

4.7k
  • 美团无人机专利获授权
  • 美团LongCat-2.0正式开源,国产芯片厂商集体同步适配

评论

暂无评论哦,快来评价一下吧!