文 | 划重点KeyPoints
AI发展到了必须要降速的时刻吗？
过去几天，Anthropic、OpenAI先后释放“放慢前沿AI能力推进节奏”的信号，被业内视作硅谷AI巨头面对安全风险的一次主动降温。二级市场率先做出反应，科技股、半导体股集体承压，英伟达一度跌超3%，AMD、英特尔、美光盘中跌幅均在5%左右，费城半导体指数盘中也一度下挫近6%。
引发市场担忧的，是支撑AI基础设施高增长预期的关键假设迎来新变量：当一直踩着AI油门的人开始主动谈“刹车”，“模型持续变强，围绕算力、芯片和数据中心的资本开支不断抬高”的增长逻辑不再那么理所当然。
而这轮“刹车论”的源头，指向一个长期带有科幻色彩的命题：Recursive Self-Improvement（递归式自我改进，下称RSI）。它所设想的，是一套AI开始参与改进、甚至构建自己下一代系统的自进化剧本。
2026年，RSI进一步跨出未来学和安全讨论的范畴，成为AI学术议程、工程实践和创业融资叙事的热词。但跳脱情绪、回归技术，AI自进化究竟意味着什么？今天AI的自我改进已经走到了哪一步，离真正的RSI还有多远？
我们和长期耕耘在这条主线上的MIT PhD、前字节Seed团队成员瞿骜聊了聊，以下是他的观察。
RSI是一个技术交汇点，但现在还是个噱头
如果只看最近半年，会觉得RSI突然火了。但如果把时间拉长一点看，这并不是2026年横空出世的新问题。它更像是过去几年，几条基础路线一路演进，到今天向同一个方向汇合。
1.代码不用人敲，RSI才有了真抓手
我2019年开始做强化学习（RL）。那时我觉得，强化学习比单纯做自然语言处理（NLP）更接近“智能”。因为它讨论的是一个系统如何与环境交互、得到反馈，再改变自身行为。但当时能做的任务很有限，模型能力也远不及今天。
ChatGPT的出现，刷新了人们对语言模型能力边界的认知。语言模型有了更大的行动空间（action space），也第一次让普通人感受到，一个模型可以通过自然语言持续接受指令、处理越来越复杂的任务。
再往后，reasoning（推理）能力一轮轮迭代。大家体感都很强烈的DeepSeek R1是一个很重要的节点，它让人看到大规模强化学习能够用到推理上，也让行业重新看到强化学习在大模型时代的空间。
再往后，这种变化更加具象化了。Anthropic的Opus 4.5是一个很明显的节点，到了这个阶段已经可以连续工作很久，很多过去需要人手动拆解、反复修改的任务，通过不断输入提示词（prompt）、不断调整，最后都能被做出来。我们甚至可以说，现在基本已经没有什么代码是提示词“敲”不出来的了。
这个变化对自我改进（self-improvement）很关键。因为智能体（agent）一旦有了足够强的编程能力，再加上越来越成熟的上下文管理能力，它就可以在一个任务上持续跑很久，自行完成读代码、改代码、执行、看结果、再继续下一轮的循环。过去需要人来“插手”的很多环节，开始可以在同一个智能体循环（loop）自己跑完。
上下文管理也在这个过程中从一个“外接能力”，逐渐变成agent原生（native）的能力。它能记住自己做到哪里，能管理越来越长的任务，再配合工具和代码执行，长程任务这件事才变得可行。
所以在我看来，2026年最重要的变化，是AI开始有条件持续做一件事，这也是自我改进真正从概念开始变成工程问题的前提。
2.今天跑通的，只是RSI的“局部循环”
也正是在这个过程中，我开始重新看过去几年那些貌似分散的研究方向。
一条线是AI驱动发现（AI for discovery），后来一路走到自动化研究（auto-research），即让agent自己提出方案、跑实验，再根据结果继续探索。
另一条线则围绕“如何让agent越来越会做事”，改记忆、造工具、积累技能，或者继续优化整个harness，也就是agent做事时依赖的那套工作框架。
我自己的研究路径其实也横跨了这两条线。从强化学习、agent memory，一路做到多智能体自动化研究（multi-agent auto-research）。我们做CORAL的时候甚至会纠结，这到底算“自动化研究”，还是“智能体工作框架演进”（harness evolution）？
所以我现在看RSI，会觉得它虽然是个buzzword，但确实把很多事情串联起来了。过去看起来像不同流派的东西，现在放进“AI如何参与构建下一代AI”这个框架里，一下有了共同坐标。
但这里还需要区分清两个概念。今天我们能看到的大多其实是持续自我改进（continual self-improvement）：AI在和环境、用户、任务不断交互的过程中积累经验，再用这些经验去自我更新。它更新的不一定只是模型参数，也可以包括记忆、提示词、工具、技能，甚至整个harness。
而严格意义上的RSI要更进一步。它的思想源头之一，可以追溯到I. J. Good在1960年代提出的超智能机器（ultraintelligent machine）：如果一台机器开始参与设计下一代机器，而且下一代又能继续造出更强的下一代，能力提升就可能进入一个递归加速的过程。
换句话说，从一次次经验里把自己“炼强”，只是RSI的起点；再往前，AI还需要参与设计、训练，甚至亲手构建下一个自己。
它可以是改harness、改训练流程、生成训练数据；也可以继续往更底层走，写GPU内核（kernel），甚至参与设计下一代硬件。所以，我们把“机器”定义得越完整，RSI的门槛就越高。
按照我的理解，今天大量实践更适合被称为持续自我改进。严格意义上的RSI，还有很长的路要走。
而我们在自己做Reef时也更愿意用改进（improve），而不是进化（evolve）。因为后者只说明“它发生了变化”。工程上我们更关心另一件事：你怎么知道它真的变好了？
AI当然可以不断变化，但变化本身没有意义。它可能学到坏经验，也可能把一次偶然的成功当成规律。人会“近朱者赤，近墨者黑”，模型也一样。你不能让它随便“瞎evolve”。
AI把活儿干完了，“长本事”才刚刚开始
1.干得再久，不学习也只是“临场发挥”
前面提到，我自己的研究一路从记忆做到多智能体自动化研究。这个过程中有一个问题越来越明显：agent可以在上下文里变得越来越能干，但这种提升是有上限的。
我们后来做CORAL，让多个agent自己做研究、共享信息、迭代方案。前期只靠上下文、记忆和harness的演进，效果可以推得很高；但任务一旦拉长，系统还是会慢慢卡住。
一个直观的问题是，agent做了很多事，也积累了很多经验，但模型本身并没有因此“长本事”。
它可以记住这次哪里踩过坑，多调用几个工具，把工作流程调得更顺。但任务结束以后，这些经验大多还停留在上下文、记忆里，没有真正进入模型。这有点像一个人做项目时，靠着笔记越做越熟练，但项目结束以后，脑子里并没有留下多少东西。下一次碰到类似的问题，很多路还得重新走一遍。
所以后来我们开始做测试时训练（test-time training）、测试时强化学习（test-time RL）、自蒸馏，想验证的是：能不能把agent在真实任务里产生的经验，再学回模型里。做下来以后，我们发现，这条路确实可以突破纯推理（pure inference）的一部分上限。
接下来又有了一个问题：如果agent未来每天都在真实世界里工作、每天都在产生新经验，为什么这些经验只能用一次？
传统的大模型开发，大致经历训练（Train）、评估（Evaluate）、部署（Deploy）、推理（Inference）这几个阶段。到了推理阶段，模型开始替用户干活，但同步产生的大量经验通常不会自动回到下一轮学习里。
比如，它今天因为理解错一个需求返工三次，明天遇到类似任务，未必会因为今天这三次返工就变得更聪明。
Reef想解决的，就是怎么把这条路重新接起来，让agent在真实世界里做过什么、错过什么、被用户纠正过什么，都有机会变成下一轮学习的材料。
所以对持续自我改进来说，推理不应该只是每一次任务的终点，也应该是新经验产生的起点。AI每做完一件事，也可能是在为“下一个自己”积累经验。
2.AI想越学越好，先得知道什么叫“好”
不同任务里自我改进的难度差别很大。
最简单的一类，是结果好坏几乎没有争议的任务，比如优化GPU kernel。agent每改一次代码，都可以直接跑一遍验证结果：更快了，还是更慢了？如果改法真的让性能变好，那这条路径就值得被奖励；如果变差了，就说明这次尝试没有奏效。做得次数多了，模型就会慢慢学到，什么样的写法和修改方式，更容易让性能变好。
这类任务相对好做，因为验证标准（verification）很清楚。快了就是快了，慢了就是慢了。
再复杂一点，是让agent去“经营一家公司”。学术界有一个很有意思的benchmark（基准测试）叫CEO Bench，它会模拟市场环境，评估agent做经营决策的能力。我们跑这类任务时，如果模型一直不更新，有些agent会一路把公司干破产。
但和kernel不一样，经营这件事会不断留下反馈：这次决策之后，客户变多还是变少，现金余额上升还是下降，公司最后是继续活着，还是走向破产。agent得看一段时间之后的结果，才知道前面的决策到底是不是好决策。
所以到了这里，反馈（feedback）已经不再是一个简单的pass/fail（通过/失败）。但只要这些变化能够被识别、被归因，它们就可以变成下一轮学习的信号。agent做得久了，也就有机会从自己的经营记录里不断调整下一次决策。
再往上走，从部分维度来说，写作风格这样的任务更棘手。比如用户反复告诉一个agent：“我不喜欢太长的句子”“这个语气太像AI”“我更喜欢直接一点的表达”。在同一轮任务里，它当然可以照着改，但下一次遇到类似任务，它未必真的记住：这个用户认为什么叫“写得好”。
我们在Reef里做过一个方向，就是把这类反馈慢慢内化到模型里，让它在类似任务里继续保留这种偏好。
因为写作这件事本来就没有一个统一答案。有人喜欢短句，有人喜欢铺陈；有人觉得直接最好，有人更在意语气和节奏。模型再强，也不可能用同一套标准满足所有人。
所以从kernel到CEO Bench，再到个性化写作，更重要的变化其实是“什么叫做好”。有的任务，“好”是一个数字指标；有的任务，要从长期结果里看；还有一些任务，连“好”的定义本身都因人而异。而自我改进要继续往前走，就必须能处理这些完全不同的反馈。
3.只“练模型”不够，只“改打法”也不够
经验找到了，接下来还有一个今天行业里讨论很热的问题：到底应该改model，还是改harness？
harness的确很重要，它可以理解成agent做事时的一整套方法、规则和权限。比如让一个coding agent改代码，好的harness不会让它一上来就动手，而是先把整个代码仓库摸清楚，再决定从哪里下手。
这些好的实践经验都可以慢慢沉淀到harness里，把模型原有的能力更稳定地激发出来。它有点像给一个能力不错的人配上一套更成熟的工作流程：同样的人，方法更好，能做出来的事会稳定很多。
所以现在有一个比较流行的观点，是harness进化的上限可能比模型进化更高。
但我对此有所保留。
因为harness再强，也只能告诉模型“应该怎么做”，却替不了模型做判断（judgment）。它可以告诉模型“你应该先做规划”，但这个任务到底该怎么规划，还是模型决定；它也可以告诉模型“把任务拆给几个子智能体（sub-agent）”，但具体怎么拆、每个agent做什么，最后还是靠模型自己的能力。
另外，我认为现在直接比较harness evolve和model evolve谁的上限更高，其实有一点“不公平”。因为今天做model evolve，很多时候只能基于开源模型；但harness evolve往往直接建立在最强的闭源模型上。两边起跑线本来就不一样。
从我们现在看到的结果来说，更值得探索的不是二选一，而是两边一起改进。
我们现在也在做模型与harness协同进化（model-harness co-evolution）。无论是两边同时训练，还是先改harness、再训练model、再继续改harness，都能达到单独只动一边很难达到的效果。
所以，今天去争“model evolve和harness evolve到底谁更重要”，可能还太早。而且harness以后可能也不只是一本越来越厚的“操作手册”。好比一家公司不是给每个人发一份SOP就能持续运转，它还需要绩效、协作、激励这些机制，才能让不同的人稳定地一起工作。
未来harness也可能走向类似的形态：不只是规定agent怎么完成一个任务，而是在设计一套让一群agent可以长期evolve的机制。但只要问题涉及开放式判断，最后还是要回到model本身。
4.经验再多，也得知道怎么“消化”
model和harness都能改以后，一个更难的问题出现了：得到一次经验，到底应该改哪一边？
我现在越来越觉得，这件事最后应该变成agent自己的一种元认知（metacognition）。它应该自己知道：这次经验值不值得学？应该怎么学？是先记在上下文里，还是沉淀进模型权重（model weights）？
这个问题其实很像人自己学习。比如参加一场线上会议，有些内容会议助手把转录记下来就够了；有些内容值得单独记成笔记；还有一些东西特别重要，聊完以后还会反复想几遍，甚至顺着它推导出新的结论。
人会天然地区分：哪些东西只是“记住”，哪些东西应该真的学进去。agent以后也需要这种判断力。
因为一个agent不只有model weights。它还有记忆、工具、技能、harness。一次任务失败，到底应该把模型练得更强，还是改记忆，还是调整工具，还是直接把做事流程换掉，答案未必一样。
今天这些选择，大多数还是人提前设计好的。再进一步，连“到底应该改哪里、怎么学”这件事本身，也应该逐渐变成agent的能力。
我会觉得，自我改进最后一定要走到这样一步：不仅有经验，还知道如何把经验变成能力。如果这件事做不到，经验再多，也可能只是堆在那里。
对普通用户来说，这种变化真正进入产品后，直接感知未必来自“模型又升级了”，而是一些更具体的细节。比如，同样的任务过去需要更大的模型才能做好，持续学习后，小模型也能做好；或者之前纠正过的错误，下一次不再重复。
甚至于用户不需要等到严格意义上的RSI。很多企业本来就有大量流程化任务，如果agent能把其中一类真正自动跑通、自己完成闭环，用户其实已经会很明显地感受到这种“自我进化”。
更多显性的变化，还可能发生在harness上。比如用户可以告诉agent：“这是紧急任务，3个回合内解决”；或者任务完成后，如果用户一直没有回来检查，它可以主动换一种方式（如申请麦克风权限或者发送短信）来找你。
未来用户感受到的“AI在进化”，未必是底层换了什么模型。核心是要感受到，它越来越像一个合作久了的同事，知道事情该怎么推进、怎么收尾。
AI会学习，但离RSI还差好几道坎
1.AI越学越多，也可能越走越窄
今天很多自我改进的局部loop已经可以跑起来，但真正开始让模型持续学习以后，很快会遇到另一个问题：它学进去的东西，不一定都是对的。
我们做自蒸馏（self-distillation）的时候，就碰到过一个比较典型的问题：如果处理方式不对，它可能反而会损伤模型的推理能力。
比如我在解决一个问题时，可能先想到A，后来发现A不对；又想到B，还是不对；最后才找到C。如果最后只把“做C”这件事重新喂回模型，看起来它学到了正确答案，但中间A为什么不对、B为什么也不对，中间那些自我反思和自我否定其实全部丢掉了。最后答案学会了，找答案的过程反而丢了。
而很多真正好的判断，恰恰来自这个过程。所以自我改进里有一个很容易被忽略的问题：结果正确，不代表这段经验就适合直接拿来学。
记忆也是一样。我们早期做过经验库（experience library），把agent成功和失败的经验都存下来，做新任务时再把相关经验调出来。刚开始效果会很好，但当记忆越来越多，又会出现新的问题：东西都在，但到了真的需要的时候，不一定能调回来。
还有一个更隐蔽的问题。agent走一条路走久了，很容易越走越顺手，也越走越难回头。agent在不断采样的时候，天然会更容易走那些概率比较高的路径。如果它已经在一个方向上尝试了很久，上下文会越来越强化这条路，它会越来越难跳出来。
这也是自我改进里一个比较有意思的悖论：一个系统当然可能因为不断学习而变强，但它也可能因为不断学习，越来越被自己过去的经验限制住。
所以“会学习”只是第一步，AI还得学会判断：哪些经验值得相信，哪些经验应该忘掉，什么时候甚至需要主动背离自己过去最熟悉的路径。
2.现实世界最大的麻烦，是没人随时告诉AI“你做对了”
尤其对于开源研究来说，很缺的是真实的环境，以及真正适合持续学习的环境。
像kernel这样的任务之所以舒服，是因为检验方法特别清楚。我改了一次，跑得更快还是更慢，马上就知道。
但真实世界里，大多数任务的反馈都没有这么“干净”。一个agent做了几十步，最后任务还是失败。问题到底出在哪？是最开始方向就选错了，还是中途用了错误的工具，还是该记住的信息没调出来，又或者某个子任务的判断出了偏差？
更麻烦的是，最后失败的那一步，往往并不是最早出错的那一步。
你很难把“做得更好”压缩成一个reward（奖励信号），然后放心地让模型一直朝那个方向强化。
所以今天其实已经不缺agent产生经验。更稀缺的是：什么样的环境，可以持续给它高质量、可验证，而且不会把它带偏的学习信号。这件事决定了自我改进最终能不能从几个benchmark上的局部成功，走进真实世界。
3.基础模型再强，也不可能提前经历整个世界
这里还有一个我觉得经常会被问到的问题：如果下一代基础模型又强很多，这些continual learning的问题是不是自然就消失了？
我自己的判断是，不会。因为模型再强，也有一个很难绕开的限制：它不可能在训练阶段，就提前经历未来部署后会遇到的所有事情。
我把这个问题称为experience exposure（经验暴露）。可以让一个模型见过最难的数学题、读过很多代码、学过大量知识，但真正部署到一个具体环境里，它总会遇到训练阶段没见过的规则、用户和情境。
这其实和人很像。你就算是一个很聪明的教授，突然让你去一所小学教课，也还是得先知道这所学校怎么运转、班里每个学生是什么情况。不是因为能力不够，而是因为这些事情以前根本没经历过。
所以我不太把持续自我改进（continual self-improvement）理解成一个“弱模型时代的补丁”。恰恰相反，模型越强、进入的真实场景越多，它越需要从自己的经验里继续学习。
上下文学习以后能覆盖的事情可能会越来越多，但我自己还是倾向于认为，只靠“记住当下”还不够，模型权重最后也需要能够持续更新。
4.AI能走多远，还看人愿意放多少权
但即便上面这些问题都解决了，持续自我改进也还不等于RSI。
严格意义上的RSI，要求AI进一步参与到“下一代AI是怎么被造出来的”这件事当中。
所以在我看来，走向RSI的过程中，有两条线一起往前：一条是能力（capability），另一条是权限（permission）。能力决定它会不会做，权限决定它到底能不能做。
比如最早的coding copilot，只能帮你补一小段代码。它能做的行动空间就这么大，再聪明，也没有地方让它表现出更复杂的系统设计能力。
但当agent可以访问整台电脑、改整个代码库、调用越来越多的工具之后，它突然就有了更大的提升空间。
把这个逻辑继续往下推，真正严格意义上的RSI涉及的范围会非常大。它可能不仅是改harness，也不仅是调模型权重。它还可能要参与训练流程、生成训练数据、写kernel，甚至触碰更底层的基础设施和硬件设计，那它离“参与造下一代AI”也就更近了一步。
所以我觉得，真正值得关注的那个拐点，未必是某一天突然出现一个benchmark，然后大家宣布“RSI实现了”。
更关键的时刻是：当agent在“造agent”这件事上的判断力和能力，第一次达到甚至超过优秀的人类研究者时，那个时候可能才是更加值得关注的拐点。
但问题也恰恰在这里。它越有可能更早进入更深的自我改进；可权限越大，安全问题也会越具体。
所以今天RSI到底有多远，已经不只是一个技术问题。另一条线其实一直掌握在人手里：我们愿意让AI把手伸到哪里。
回看六十多年前，I. J. Good设想过的那个“机器制造更强机器”所带来的智能爆炸（intelligence explosion）。今天RSI距离那个临界点还有多远，答案可能已经不只写在技术进展里。
AI会继续向前，但最终走到哪里？边界不会只由机器自己决定。
