近日英伟达GTC大会上,快手公布了新大模型训练解决方案。据悉,通过计算通信重叠、异构存储利用、通信资源管控、算子优化等手段,该方案可支持百万级别超长文本训练,并且在训练性能上比sota开源方案快30%以上。(科创板日报)
快手在GTC大会发布大模型训练解决方案,支持百万级超长文本
快手
5.3k
- 快手与总台春晚达成合作
- 科技早报 | 网信部门对快手平台依法作出处罚;千问登顶苹果App Store免费榜
近日英伟达GTC大会上,快手公布了新大模型训练解决方案。据悉,通过计算通信重叠、异构存储利用、通信资源管控、算子优化等手段,该方案可支持百万级别超长文本训练,并且在训练性能上比sota开源方案快30%以上。(科创板日报)
评论