9月12日,阿里巴巴通义千问发布下一代基础模型架构Qwen3-Next,并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。该结构相比Qwen3的MoE模型结构,进行了以下核心改进:混合注意力机制、高稀疏度MoE结构、一系列训练稳定友好的优化,以及提升推理效率的多token预测机制。
阿里巴巴推出Qwen3-Next人工智能模型
来源:界面新闻
阿里巴巴
7.2k
- 伊朗称发动“真实承诺-4”第86波行动
- 前阿里千问负责人林俊旸离职后首发长文:从训练模型转向训练智能体
来源:界面新闻
9月12日,阿里巴巴通义千问发布下一代基础模型架构Qwen3-Next,并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。该结构相比Qwen3的MoE模型结构,进行了以下核心改进:混合注意力机制、高稀疏度MoE结构、一系列训练稳定友好的优化,以及提升推理效率的多token预测机制。
评论