字节跳动Seed团队发布扩散语言模型，每秒推理速度2146 tokens

7月31日，字节跳动Seed团队发布实验性扩散语言模型Seed Diffusion Preview。据介绍，其目标是以结构化的代码生成为实验领域，系统性地验证离散扩散技术路线作为下一代语言模型基础框架的可行性。实验结果显示，Seed Diffusion Preview代码推理速度可达到2146 tokens/s，速度相比同等规模的自回归模型提升5.4倍。