Kimi少了一个天才少年

10月15日，年仅17岁的陈广宇在社交平台X上宣布，他近期已从月之暗面旗下的Kimi团队离职。

他并未透露离职的具体原因及未来的去向，仅对同事们表示感谢，并特别感激当初愿意聘用一名16岁少年的团队。他形容过去一年是自己迄今为止人生中最为美好的时光。

不过，从他离职后的社交互动来看，其下一步动向已初现端倪。

Anthropic的核心研究员Sholto Douglas在评论区向他表示祝贺，询问他原本前往卡内基梅隆大学（CMU）的计划是否依旧，并邀请他前往旧金山，与Prime、Base10等团队共同工作。陈广宇回复道：“谢谢Sholto！我正准备去海湾区。”

Kimi团队的研究员、论文共同作者Yulun Du则写道，他曾就陈广宇的决定与其进行过多次深入交流。看到他离开“令人难过且心碎”，但在这样的年纪，尽可能去探索并追随新的好奇心，或许是对他最好的选择。

2025年11月，16岁的陈广宇以实习生身份加入Kimi。不到一年后，他与张宇、苏剑林共同署名的Attention Residuals技术已被纳入Kimi K3的架构体系。

外界记住了这位17岁的共同第一作者，而Kimi则收获了一项被嵌入模型“地基”的技术。他的工牌经历虽短，但在模型中留下的印记已无法抹去。

一条技术帖，敲开两家AI公司的大门

陈广宇的起点，与“天才少年”这一标签相去甚远。

他出生于2009年，没有奥赛金牌、没有跳级经历，也并非从小就开始编写代码。2024年4月，还在读高一的他做出了一个决定：暂停所有自己不喜欢的事情。

他在博客中回忆，那段时间他只专注于学习计算机和人工智能。他学习大模型的方法，是将下载的论文上传至Gemini，然后反复提问。他在博客中称Gemini为“导师”。

2025年5月，他在网上分享了一篇关于DeltaNet的技术博客，并获得了DeltaNet关键贡献者之一杨松琳的回应。当时杨松琳正在麻省理工学院攻读博士学位，同时也是线性注意力开源社区FLA的发起人。

这次互动后，这篇帖子被更多人看到，其中包括美国AI初创公司Tilde Research的CEO。对方主动联系陈广宇通话，向他介绍了公司正在进行的项目。

据报道，陈广宇当时并未立即加入。他继续阅读论文、编写代码，直到能够编写自定义的GPU计算内核，并将其用于训练后，才去应聘。

同年7月，他独自前往加利福尼亚州帕洛阿尔托，开始了为期七周的实习。陈广宇后来回忆，他每天在办公室工作15个小时，与其他研究人员一起参与了内存优化混合专家模型MoMoE项目。

硅谷实习结束后，陈广宇收到了月之暗面的邀约。2025年11月，他加入Kimi团队，继续从事模型架构研究。

今年1月，他在社交平台记录了一个小插曲：当时他正与张宇研究一项令人兴奋的模型架构改进，母亲打来电话祝他生日快乐，他才意识到自己已经17岁了。

两个月后，AttnRes论文发布当天，硅谷近半数AI圈人士为之震动。

OpenAI联合创始人Andrej Karpathy评价道，看来人们尚未完全理解“Attention is All You Need”这句话的字面含义。特斯拉CEO马斯克在评论区留下一句“来自Kimi的令人印象深刻的工作”。

出圈后，陈广宇在接受媒体采访时反复强调“不要造神”，希望外界关注的是团队共同完成的研究，以及它试图解决的底层难题。

共同“一作”的分量

AttnRes的初步构想及小规模实验由苏剑林提出。在看到初步结果后，张宇与陈广宇加入，在更大规模的模型上继续验证。

训练团队经过计算后认为，这套方案在当时的环境下尚不具备可行性。苏剑林在复盘时用了一个直白的说法：“说白了还是穷。”

要理解他们遇到的困难，可以将模型的多层计算想象成一群接力解题的人。每个人完成一轮处理后，都要将结果传递给下一个人。

传统残差连接的做法，是将前面各层产生的信息不断累加。后面的人拿到的是合并后的结果，很难单独提取某一层的信息。

这类似于每个人都往同一份合并笔记中添加内容，却没有保留一份可供随时查阅的逐层记录。层数越多，累加的信息越多，部分有用的早期信息也可能被稀释。

AttnRes改变了这一做法：让后面的层能够参考前面各层的输出，根据当前需求决定侧重哪些信息。就像解题时可以回头翻阅不同人的笔记，找到所需的部分。

麻烦也随之而来。要随时调取这些“笔记”，训练系统必须保存更多中间结果，并在不同设备间传输。新方法在小规模实验中有效，但应用于大规模训练时，还需处理显存和通信开销。

**随后，陈广宇与张宇共同提出了Block AttnRes，即分块注意力残差。**他们将上百层网络划分为若干区块，区块内维持低成本的基础累加，仅在区块间进行精细的注意力聚合，将显存复杂度从层数级降低至块数量级。

实验表明，仅划分约8个区块，就能恢复全量版本的大部分性能，端到端推理延迟增量控制在2%以内。

Kimi团队在480亿参数的Kimi Linear架构上，使用1.4万亿token进行实测。AttnRes达到相同效果，仅需基准模型约80%的算力。在GPQA-Diamond上提升7.5分，Minerva Math上涨3.6分，HumanEval上涨3.1分。

2026年7月发布的Kimi K3总参数达2.8万亿，是全球首个开放权重的3T级模型，而AttnRes正是支撑其的底座技术之一。

陈广宇参与的另一项工作，是加速KDA的计算内核。

KDA是K3采用的一种线性注意力机制，在处理长上下文时，能降低部分计算和存储开销。陈广宇在离职帖中表示，他与张宇优化过其内核，并尝试了多种可能的设计。

陈广宇离职前一个月，Kimi公布了新一轮全球人才招募。

9月9日，Kimi宣布招募7名无法被常规岗位描述定义的“Wild Card”人才，同时推出“穿越计划”。该计划面向校招生和实习生，不限专业、不限实习年级，也不将学历和资历作为主要门槛，优秀者可能获得期权。

这套招聘逻辑与陈广宇的经历高度相似：先找到一个人，再决定他能解决什么问题；先看上限，再补充岗位名称。

但这套机制也有代价。

非典型人才往往需要更高密度的交流、更快的反馈以及更大的试错空间。他们不一定适应标准化的汇报体系，也不一定愿意沿着传统职业路径留下。公司能否提供真实问题、充足算力、清晰的贡献归属以及长期的选择空间，决定了这类人才最终是成为组织能力，还是仅留下一个短暂的故事。

他在离职帖最后写道：“还有更多事情值得探索。”

本文来自微信公众号“数智奔流”，作者：熵野，36氪经授权发布。