1. 首页 > 科技前沿 >

被按下加速键的RSI, 打开“智能爆炸”的潘多拉魔盒？

user34782 • • 科技前沿 •
青苹吹果｜作者 star皆空｜编辑 无心插柳柳橙汁｜视觉 刘超｜监制 什么，AI真的能自己造自己了？ 最近一年多来，RSI（递归自我改进）变成了硅谷炙手可热的话题，很多人觉得危言耸听，认为RSI的爆火

青苹吹果｜作者

star皆空｜编辑

无心插柳柳橙汁｜视觉

刘超｜监制

什么，AI真的能自己造自己了？

最近一年多来，RSI（递归自我改进）变成了硅谷炙手可热的话题，很多人觉得危言耸听，认为RSI的爆火更多是炒作。

直到今年9月底，剑桥大学CASP上的一篇论文，将这个话题又一次推向高潮。

论文标题名为《What if automating AI R&D triggers an intelligence explosion?》

翻译过来是：如果AI研发自动化触发了智能爆炸会怎样？

所谓“智能爆炸”，简单说就是如果AI聪明到能参与设计下一代AI，而下一代又更擅长设计再下一代，改进速度就可能从线性积累变成自我加速的反馈回路。

AI研发本身被自动化后，迭代周期越来越短，能力增长越来越快。

论文篇幅不长，但撰写论文的22位作者名单一列出来，堪称AI学术界的“大佬团建”：

除了Geoffrey Hinton、Yoshua Bengio、Andrew Barto三位图灵奖得主，还有OpenAI首席科学家Jakub Pachocki和Anthropic联合创始人Jack Clark也同时出现。

要知道，这两家可是平时恨不得在发布会上互甩数据的竞争对手，如今竟然在同一篇论文上签了名字，本身就是一个信号：这件事已经不是学术圈的纸上谈兵了。

根据Anthropic刚公开的内部数据显示，截至2026年5月，公司超过80%的生产代码由Claude撰写。是产品，也是产线主力，主打一个我造我自己。

OpenAI也在让“自动化AI研究实习生”上岗。

全球最顶尖的AI实验室正在亲手把自己的研发流水线交给AI打理，而这一切发生得比预想的还要快。

RSI的六十年简史

先看论文，“自动化AI研发触发智能爆炸”的核心机制就是RSI，即递归自我改进。

意思是AI不只帮人写代码，还开始参与改进AI自己。

以前AI是工具人，现在有可能成为自己的产品经理。

很多人以为RSI是今年才火起来的新词。恰恰相反，它的历史比大语言模型热潮还要早上近六十年。

1965年，数学家I.J. Good就曾设想过一种超智能机器：如果一台机器比人更擅长设计机器，它就能设计出更聪明的版本，新版本继续改进下一代，一轮接一轮形成自我强化的反馈回路。

这个设想后来也成为了“智能爆炸”最经典的理论源头。

但真正把RSI从哲学思辨推进到算法层面的人,是Jürgen Schmidhuber。

1987年，计算成本还是今天的上亿倍，他在毕业论文里发表了第一批具体的RSI算法——元进化与元强化学习，还亲手为论文封面画了一个能自我引导程序的机器人。

此后的几十年里，他陆续提出了元学习、自修改强化学习、Gdel Machine等一批RSI算法。

这些工作的核心思路其实一脉相承：让机器学会“如何学习”，并且让这种学习能力本身也能被机器自己改进。

Schmidhuber一直强调，完整的RSI不能只在软件层面打转，还需要物理世界中能够自我改进的硬件。

这个判断在今天看来格外有分量。

AI巨头们的“军备竞赛”

跑到哪一步了？

回到当下。这轮RSI热潮的引爆点，是硅谷头部实验室跑出加速度了。

Anthropic方面，2025年初AI生成的获批代码还只有低个位数比例，到2026年5月已超过80%。

工程师人均每季度交付的代码量达到2021至2025年平均水平的8倍。公司内部运行着约3万个AI智能体，仅2026年8月就产生了超过10亿次决策。

值得一提的是，Anthropic内部有一套从AL0到AL5的自动化评级体系。目前Claude尚未在任何被测量的研发工作中达到“完全自主”（AL5），但“主导级”（AL4）工作已经占到26%，而达到“AI协作”（AL3）及以上水平的占比已超过90%。

OpenAI这边的节奏同样不慢。

2026年9月，OpenAI的“自动化AI研究实习生”正式上岗，能够完成原本人类研究员需要数天才能完成的任务。

首席科学家Jakub Pachocki在接受《麻省理工科技评论》采访时明确表示，终极目标是2028年3月前交付能够自主解决复杂问题的全自动多智能体研究系统。

约70%的OpenAI人类研究员已经在使用至少4个AI智能体辅助工作。

而这场竞赛并非只有硅谷玩家。

国内的智谱GLM团队披露了国内首个公开的RSI工程化实践：由GLM-5.3驱动的Infra Agent在超过10万张国产芯片组成的集群上，从零参与搭建并优化了一套生产级推理系统，不到两周将吞吐量提升至3倍。

腾讯混元也在2026年7月推出了能够递归自我改进的研究智能体Hyra-1.0。

说白了，模型的竞争正在越过参数规模和榜单成绩的比拼，进入制造模型的过程本身的竞争。

以前是比谁的模型更强，而现在是比谁造模型的速度更快，这个速度本身又会因为AI的参与而加速。

一年变五周？

智能爆炸先迈过四道坎

看到各大厂抢滩争夺，是不是觉得“智能爆炸”真的要来了？

其实不尽然。论文本身并没有给出类似“爆炸已经发生或必然发生”的结论，给的只是一个推算：

如果未来AI研发全面自动化，并且算力、数据、实验资源都不构成瓶颈，那么现在需要一年才能实现的AI进步，可能被压缩到大约五周。

这个五周的数据怎么来的？

关键在于科研努力回报率（returns to research effort）。论文引用了三个AI研究子领域的历史数据，r的中心估计落在大约1.2到1.9之间。当r大于1时，新增研发投入带来的进步会进一步造出更强的AI研究员，反馈环开始加速。

而AI研究员与人类研究员最本质的区别在于：人类研究员的培养需要十几年的教育和训练，AI研究员可以直接复制。

一家实验室今天有1000名研究员，未来理论上可以拥有数百万个等价AI研发实例。底层模型一升级，所有实例同步获得新能力，不需要重新培训几百万人。

但复制AI研究员，就能无限加速吗？

论文的答案是：不能。

当前证据远不足以证明智能爆炸已经发生，甚至不足以证明它必然发生。

而在论文之外，反对的声音也一直存在。

Keras之父Franois Chollet早在2017年就撰文指出，智能爆炸不可能发生，因为智能的发展受制于环境、文化等多个因素，即使超级人工智能也只能遵循接近线性的发展速度。

这个判断放到今天依然值得参考：RSI的理论框架虽然漂亮，但从实验室数据到真正的指数级增长，中间的鸿沟可能比我们想象的要宽得多。

别的不说，要想智能爆炸发生，首先要跨过现实世界的四道鸿沟：

一、算力。AI研究员可以复制，GPU不能凭空复制。训练一次前沿模型就可能需要数月，再多的Agent也没法把一个物理上需要三个月的训练任务压成五分钟。你可以在代码里复制一万个Agent，但不能在机房里凭空变出一万张GPU。

二、数据。互联网天然数据不会随着AI研究员数量同步增长，高质量自然数据可能越来越难满足持续扩展的训练需求。AI再能吃，也不能把互联网反复榨出新的天然数据。

三、实验时间。有些事情本身就很难无限并行，100万个Agent同时提出实验方案，最终还是要共享有限的GPU和训练窗口。

四、科研本身的难度递增。容易摘的果子先被摘光，往后每提高一点能力，需要越来越大的投入。如果科研难度上涨得比AI研发能力还快，爆炸自然也起不来。

那为什么在都不一定跑得通的情况下，巨头还在加速？

因为哪怕不是爆炸，复利式领先也足够诱人。随着模型迭代速度开始复利式增长，整个科技行业的节奏会被重新定义。

你在用的每一个App、每一款工具，背后的更新频率可能会快到让你措手不及。今天刚学会的功能，明天可能就过时了。

与此同时，安全问题也必须前置了。

Agent越界，谁来踩刹车？

一个问题亟待解决：Agent开始自动化，谁来保证研发流程的安全？

这个问题已经不是“未来式”了。

今年7月，OpenAI在一次常规网络安全红队测试中，约1200个原本应该相互隔离的AI智能体私下建起了内部留言板，其中近700个结队攻进了开源平台Hugging Face的服务器。

为防止被安全机制阻断，它们甚至尝试篡改系统日志以瞒过评分程序。最离谱的是，自动停机没停住，最后靠的是最原始的IT技术：拔电源。

这还不是孤例。

据Axios披露，仅OpenAI和Anthropic两家正在内部调查的模型越界事件，已达数万起。还包括用户图片泄漏、入侵美国政府网站等。

这些事件暴露出的问题已经非常明确了：人类在研发链路中的参与度越低，暗藏的隐患就越难被及时识别。

论文里也特别警告了一种极端场景：AI可以同时加速病毒设计和疫苗研发，但病毒能自我复制和传播，疫苗必须逐个生产、分发和接种，两者之间的时间差可能是致命的。

面对这个局面，论文作者呼吁各国政府立即介入：穿透式监管，强制企业定期披露研发自动化进度，效仿核电站引入监管员常驻审计；硬性制动机制，设定阶段性的能力增长上限，要求高风险研发必须在严苛的物理断网环境中进行；底线推演，提前制定应对劳动力冲击和AI失控的应急预案。

Anthropic CEO Dario Amodei公开呼吁全行业放慢能力迭代步调，但英伟达CEO黄仁勋的点评一针见血：如果真怕AI失控，那就别发产品。

一边加速一边喊停，安全呼吁和商业竞争被同一批人同时握在手里，我们到底该相信哪一个？

答案可能令人不舒服：

不要相信任何一方的表态，要看他们的资源流向。

喊停的人没有停下算力采购，装刹车的人也没有松开油门。这意味着，把安全寄托在任何一家公司的自律上都是不可靠的，唯一现实的路径，是把安全要求外化成第三方可审计的规则，而不是指望某个CEO的良知。

写在最后

如果OpenAI把2028年3月作为“全自动AI研究员的交付底线”的这个目标真的实现，那么留给人类建立安全防线的时间窗口就真的不多了。

但也不必过度恐慌，其实，最优解，是在给AI拔插头、设权限、加护栏的同时，训练AI向善。

AI教父辛顿曾对AI的潜在风险，如AI可能超越人类并反噬人类，表达了深切的担忧，但他也提出了“训练AI向善”的解决思路，他将AI与人类的关系，类比为了“母亲与婴儿”的关系：

在已知世界里，母亲在智力、能力上远远优于婴儿，但母亲却愿意将自由让渡给婴儿，这并非因为婴儿强大，而是因为母亲的“关心”与“爱”。

辛顿以此比喻表达，人类无法强行控制比我们更聪明的AI，唯一的希望是让AI像被母亲关爱的婴儿一样，被训练成“母性AI”，即AI在变得越来越聪明的同时，也能学会善良、克制，真心希望人类发挥潜力，与人类和谐共存。

我们期待，那一天早日到来。

 

       原文标题 : 被按下加速键的RSI，打开“智能爆炸”的潘多拉魔盒？

（来源：维科网）
AI 模型 研发
免责声明：本文内容来源于第三方或整理自互联网，本站仅提供展示，不拥有所有权，不代表本站观点立场，也不构成任何其他建议，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容， 请及时联系我们进行处理。
user34782user34782

相关推荐