字节跳动豆包大模型团队近日开源一项名为COMET的MoE架构优化技术，可将大模型训练效率提升1.7倍。论文显示，该技术已实际应用于字节的万卡集群训练，实现数百万GPU小时训练算力的节省。
字节跳动豆包大模型团队开源一项MoE架构优化技术
来源：界面新闻
字节跳动
4k
- 字节反馈：Seedance 2.0限制真人人脸上传
- 传媒ETF(159805)涨超2.3%，字节大模型海外爆火
热门排行February 13
- 中央戏剧学院连续4任表演系主任落马，其中3人系主动投案
- 独家｜华为内部反腐通报，原终端BG多媒体技术部部长邓某因涉嫌非国家工作人员受贿罪被龙岗区人民检察院依法批准逮捕
- 巴黎欧莱雅举办首届新春联欢晚会，巴黎朵梵全球首家结构复位紧塑中心落地上海｜是日美好事物
- 小川淳也当选日本“中道改革联合”新任党代表
- 特朗普又有大动作，宣布美国环境保护署“温室气体危害认定”正式撤销
- 自食其果！纽约联储报告称关税成本近九成由美国消费者和企业承担
- 汽车早报｜吉利控股旗下公司增持沃尔沃汽车股份 日产汽车第三财季净亏损283亿日元
- 美国航班降落浦东，不倒时差，抓紧逛街｜过年来上海
- 特朗普希望美伊“一个月左右”达成协议
- 央行明日开展1万亿买断式逆回购操作，分析师：降准必要性降低
评论