文 | 世界模型工场美股投资服务网
Anthropic又出暴论了。
这次他们发了一篇报告，标题叫《When AI Builds Itself》（AI在构建自己）。
先来几组数字感受一下：
截至今年5月，Anthropic超过80%的代码已经由Claude自己写；工程师人均代码产出翻了8倍；Claude可以连续自主工作超过16小时。
Anthropic给出的判断是，如果按现在的趋势继续下去，AI自己设计、构建下一代AI，是完全可能发生的。
基于这种风险，Anthropic甚至呼吁全球放缓前沿AI研发！
观点一出，社交媒体立刻炸了：\"AI要自己造自己了！\"\"递归自我改进（RSI），奇点要来了！\"
熟悉的配方，熟悉的味道。
如果你在AI圈混了超过两年，一定认得这个节奏：
每隔几个月，就会有一家头部AI公司抛出一个让人觉得\"时代要变了\"的论断；
社交媒体集体进入焦虑模式，然后……
日子还是照过。
前几天OpenAI刚说完“AI显现出递归自我改进（RSI）的早期迹象\"，Anthropic后脚就来一篇\"AI正在造下一个自己\"。
现在连营销话术都要你追我赶了吗？
今天这篇文章就来拆解一下，Anthropic和OpenAI说的RSI到底是什么？现在到了哪一步？未来AI可能走向哪里？
看完你再决定，到底该不该焦虑。
Anthropic走到了哪一步？
递归自我改进(Recursive Self-Improvement，RSI)，是AI圈讨论了近二十年的老话题。
核心逻辑很简单：AI能改进自身，改进后的下一代又能改进再下一代，不需要人类介入，形成自我加速的能力飞轮。
这是AI奇点理论的触发条件。
不过在讨论\"目前RSI到了哪一步\"之前，你得先搞清楚，RSI不是一个临界点，而是一个阶梯。
元股证券:ygzq.hk这些年关于RSI的研究，共同给出了一把衡量RSI进度的尺子，可以把它大致分成六个阶段：
那么，Anthropic现在在哪儿？先看Anthropic自己怎么说。
Anthropic在报告里也画了一张时间轴，把AI介入AI开发，分成五个阶段：
按他们自己的地图，他们现在已经在第四阶段，离终点只剩一步。
但事实真的如此吗？
对照业界研究的六个阶段，Anthropic的位置更像是处在第3-4阶段之间，也就是半自动研究闭环和自改进Agent阶段。
Anthropic内部有一个公开披露的实验：
Claude Agent全程自主完成一个AI安全研究项目，从提假设到分析结果全部自动，用约800小时、约1.8万美元算力成本，恢复了97%的性能缺口，而两名人类研究员花了整整一周只恢复了23%。
这是一个真实运转的半自动研究闭环，说Anthropic已处在第3阶段不为过。
第4阶段的迹象同样存在。
Anthropic做了一个代码优化实验。
Claude拿到训练小模型的代码，自主运行、计时、修改、再运行，跑出了52倍的速度提升，人类熟练研究员做同样任务只能做到4倍。
这非常接近自改进Agent的逻辑：改工具链、跑benchmark、选更好的版本。
卡住RSI的关键
但值得注意的是，还有一个关键环节没被Anthropic跨越。
Anthropic在文章里提到了一个词，叫做research taste（研究品味），这是判断什么问题值得做的能力。
用他们自己的比喻：
初级员工接到的任务是\"这个按钮坏了，去修\"；
有经验的员工接到的是\"网络有时候会变慢，查一下原因\"；
最资深的人在思考的是\"我们下个季度该做什么\"。
目前，Claude在第一层已经很强，第二层在快速追赶。
但在第三层，比如“什么问题值得做、哪些结果可信、什么时候该放弃”这些研究品味上，人类仍有比较优势。
只要人类还在主导这个环节，AI就没有实现完全的自改进Agent，更不用说达到完整RSI阶段。
不过，报告里一个数字值得单独拿出来。
在\"判断研究下一步该怎么走\"这件事上，Claude Mythos Preview已经能在64%的情况下，被另一个Claude judge判定为提出了更好的下一步，五个月前这个数字还是51%。
这表明进化的趋势是对的，但离AI完全自主判断还很远。
更重要的是，这个数据是在问题边界清晰的情况下测量的。在真实环境里，AI能判断到什么程度，其实并无定论。
AI发展的三种结局
Anthropic抛出的数据很亮眼，但是AI未来到底会发展到什么程度，Anthropic也不敢把话说满，在报告里老老实实列出了三种情形。
第一种：趋势停在S曲线上
当AI能力增长遇到天花板——Transformer架构撞墙、算力和能源供应跟不上、地缘政治把全球AI协作切断，指数曲线会弯成S形，然后趋于平缓。
Anthropic认为，这是三种结局里最不可能发生的一种。
配资平台查询入口但他们也承认，即使是这个最温和的版本，后果也不轻松。
今天已有的模型能力就此冻结，也已经足够让一家百人公司，越来越接近过去千人公司才能完成的工作。
社会结构的震荡不会因为AI停止进步而消失，它只是换了一种形态继续。
第二种：飞轮转起来，人类还在掌舵
AI处理执行，人类负责判断；AI生成选项，人类做最终决策。
听起来是个不错的结局，但Anthropic指出了一个隐藏的麻烦：Amdahl定律，加速一个环节，瓶颈会转移到下一个。
比如代码写得快了，code review变成新的堵点；实验跑得快了，结果分析又慢下来；分析快了，决策链路又开始拖后腿。
Anthropic说他们内部已经在经历这个过程，每一波效率提升之后，下一个瓶颈就浮出水面。
它意味着人类掌舵会越来越费力，要求越来越高，人类需要在更快的节奏里做出更好的判断。
Anthropic认为这是最可能发生的近期情景，而且他们现在已经在这条路上了。
第三种：完整RSI，人类退到验证角色
AI开始自主构建后继模型，进度由算力决定，人类从主导者变成监督者和验证者。
好处在于，可能快速实现医疗突破、科学加速、贫困问题的系统性解法。
但坏的一面是，今天模型训练中，哪怕只有一个微小的目标偏差，在完整RSI的迭代循环里可能以指数速度放大，直到人类完全失去干预能力。
这是最不确定的结局。
讲完三种结局，报告末尾Anthropic开始呼吁，希望建立某种全球协调机制，在风险上升时能够有序放缓甚至暂停前沿AI开发。
翻译一下这段话的意思：AI递归自我改进势头太猛，我们很担心，觉得应该有人出面让大家一起停下来，但Anthropic不会单方面停。
多么熟悉的味道。
这套叙事Anthropic已经用了不止一次，在制造焦虑的同时，把自己定位成\"威胁的发现者\"和\"最有能力应对威胁的公司\"。
但看完Anthropic内部真实情况，以及它自己给出的AI未来可能性，你还会感到焦虑吗？
多空新闻网提示：本文来自互联网，不代表本网站观点。
