10月15日,“00后”天才少年陈广宇在社交平台发文宣布,近日已离开月之暗面的Kimi团队。他表示:“过去一年在Kimi的工作是我迄今为止最美好的时光。我非常感激能够与如此出色和支持我的同事共事并从中学到东西。”
他感谢Kimi团队相信并聘用了当年年仅16岁的自己,再次提到“能够与一群真诚的人一起构建如此开放(且强大的)模型,真是令人难以置信”。他还表示,希望继续探索更多方向。
值得注意的是,前DeepMind Gemini推理架构负责人,现Anthropic公司可扩展强化学习(RL)方向研究员肖尔托·道格拉斯(Sholto Douglas)在陈广宇贴文下评论称:“恭喜你,很高兴上周见到你,你还是计划去卡内基梅隆大学(CMU)吗?”他邀请陈广宇去旧金山,与Prime、Base10等团队一起工作。后者则回复:“谢谢Sholto!我正要去湾区。”
据悉,陈广宇出生于2009年,曾就读于原北大附中深圳南山学校和华润小径湾贝赛思国际学校,已于今年6月高中毕业。因此,有分析认为,陈广宇离开月之暗面或是去读大学。
陈广宇曾入选罗德信托的高潜力未来领袖计划,这是面向全球15–17岁潜力青年的选拔计划。他还在美国顶尖小型实验室Tilde Research做过AI研究。
自去年11月起,陈广宇在Kimi团队担任机器学习研究员,专注于AI前沿技术研发。以此计算,陈广宇工作的时间不超过一年。

今年3月,陈广宇与张宇、苏剑林作为同等贡献作者,成为一篇名为Attention Residuals(注意力残差,简称AttnRes)的论文的共同第一作者。
在该项研究中,陈广宇与张宇共同提出Block Attention Residuals(分块注意力残差)设计,以降低Attention Residuals在大规模模型训练中的额外计算和通信成本。 Attention Residuals此后成为支撑Kimi K3的重要技术之一。张宇为Kimi Linear架构的第一作者。
据经济参考报,Kimi核心成员、著名旋转位置编码RoPE的提出者苏剑林后来在《Attention Residuals回忆录》中表示,研究过程中,在其提出Attention Residuals的初步实验结果后,张宇和陈广宇表现出极大的兴趣,参与进来并开始在更大规模的模型上做一些验证。
之后,张宇和陈广宇共同提出了论文中的Block Attention Residuals设计。该方案将层划分为多个区块,并对区块信息进行压缩,在尽量保留完整Attention Residuals效果的同时降低计算和通信成本。
这事实上肯定了陈广宇在Attention Residuals研究中的贡献。不过陈广宇在接受媒体采访时并未居功,表示这项工作“缺一不可”,希望不要突出个人。
该研究对AI界影响很大,特斯拉CEO马斯克评论这个论文时说:“Kimi的工作令人印象深刻。”
今年7月,月之暗面发布新一代大模型Kimi K3,总参数规模达2.8万亿。官方介绍称,它是全球首个开源的3万亿级别模型,面向长程编程、知识工作和推理等前沿智能场景而设计。
OpenAI总裁格雷格·布罗克曼(Greg Brockman)在一次受访中谈及K3,称这是一款毋庸置疑具有竞争力的新AI模型,并根据相关评估透露,中国在模型开发方面与美国的差距可能仅剩4个月左右。
Kimi官方表示,K3基于两项关键架构更新构建,分别是Kimi Delta Attention(KDA,混合线性注意力机制)和AttnRes。前者改善信息在更长序列中的流动,后者改善信息在更深模型中的流动,二者共同构成K3扩展至2.8万亿参数规模的架构基础。
据披露,AttnRes这项技术增加的额外成本不到2%,却带来约25%的训练效率提升。对于参数规模以万亿计的大模型而言,这意味着付出很小的额外计算代价,就能显著提高训练效率。
AttnRes并非陈广宇在Kimi的唯一贡献。据媒体报道,他加入后最早的工作之一是加速KDA的计算内核。这意味着,陈广宇在Kimi K3的两大核心架构(AttnRes和KDA)的研发过程中,均有贡献。
月之暗面成立于2023年4月,由杨植麟、周昕宇等人创立。成立仅两个月便完成近20亿元天使轮融资,投资者包括红杉中国、真格基金等头部机构。2024年2月,月之暗面完成超10亿美元融资,估值达25亿美元;同年8月再获超3亿美元,估值升至33亿美元。2025年12月又完成5亿美元C轮融资,估值43亿美元。
7月30日,天眼查显示,月之暗面已于7月29日完成工商变更登记,市场主体类型变更为股份有限公司。杨植麟身份从董事成为公司董事长兼经理,原经理周昕宇身份变更为董事;高管人员备案新增董事张予彤和财务负责人宋思嘉;公司名称变更为北京月之暗面科技股份有限公司。
天眼查融资历程信息显示,公司于7月29日完成了35亿美元F轮融资,投后估值达350亿美元。
此后有消息称,月之暗面计划于8月启动上市前最后一轮融资谈判,目标估值高达500亿美元。



评论