RSI是新一代AGI——同样难以准确定义
编者按：在人工智能领域，“递归”一词正成为最新热词。两家初创公司以此为名，更多公司则在路线图中提及“递归自我改进”。就像之前的AGI一样，RSI已成为AI爆发式增长的代名词，尽管对其确切含义仍存争议。从基本层面看，RSI指AI系统能持续自我升级。一旦AI比人类更擅长管理升级循环，这个过程将变成闭环，仅受算力限制，人类不再是必需甚至可能成为障碍。这一愿景令众多AI实验室趋之若鹜。本文梳理了RSI的最新进展、关键人物与挑战，揭示了AI行业在追求“自我进化”道路上的狂热与隐忧。以下为原文翻译：
“递归”成为AI圈子最新流行热词。两家独立初创公司以此命名，更多公司开始在路线图中提及递归自我改进。如同之前的AGI，RSI已成为AI爆发式增长的代名词——即便人们对其确切含义仍存分歧。
简单来说，RSI指能不断自我升级的AI系统。一旦AI系统比人类更擅长管理升级循环，该过程将形成闭环，仅受算力限制，人类不再是必需甚至成为障碍。
无论是否可怕，这确实是诸多AI实验室渴望追逐的愿景。
本月早些时候，知名AI研究员理查德·索彻推出了恰如其名的Recursive Superintelligence，将RSI设为明确目标。索彻在发布时告诉TechCrunch：“我们的核心是构建真正可扩展的递归自我改进超级智能，这意味着研究创意的构思、实施与验证全流程都将自动化。”
众多知名研究者已在追逐同一目标，期望实现突破使递归自我改进成为可能。
其中最突出的是特斯拉与OpenAI的传奇人物安德烈·卡帕西，他正利用智能体集群对LLM进行简单任务训练，项目名为Auto-Research。卡帕西罕见地公开项目进展，定期在推特发布里程碑，并通过公共GitHub仓库公开构建模块。目前工作主要集中于对GPT-2规模模型进行微小改进——正如卡帕西3月所言“这还不是新颖、突破性的‘研究’”——但这已足以说服众多研究者追随RSI梦想。随着卡帕西现任职于Anthropic从事预训练工作，他将有充分机会在更大规模上应用该理念。
由Cohere与谷歌校友萨拉·胡克创立的Adaption近期推出类似工具AutoScientist，旨在自动化前沿训练。与卡帕西的自动研究员类似，该系统训练智能体进行渐进改进——但对Adaption而言，目标是使全规模前沿模型训练更易实现。若这些研究者开始推动前沿进展，系统可能迅速演变为近乎RSI的存在。
Disarray创始人多丽丝·辛的自我训练机器学习代理在近期Kaggle竞赛中斩获28枚奖牌，击败众多人工训练代理，引发了更具体的RSI兴趣。在她看来，主要挑战在于可靠性。
“我认为，给定无限算力与无限时间，我们已实现这一目标，”辛告诉我，“我想论证这并非创造性努力，而只是大量基础性工程。”
但大量证据表明AI行业距离真正意义上的递归系统尚远，并仍在与警觉的公众沟通进展。谷歌CEO桑达尔·皮查伊在近期播客中基本承认了这点。
“这是一个连续过程，我们确实都在取得进展，”皮查伊说，“但按人们对RSI的描述，那将代表下一级加速并带来诸多影响，而我们尚未达到那一步。”
但这一连续过程包含大量自我改进AI系统。1月，Anthropic负责Claude Code的首席程序员估计团队“接近100%”代码由该工具编写——坦率承认Claude Code实际上在自我编写。工程师使用AI工具并不意味着工具能替代他们——但Anthropic似乎已接近替代工程师。在近期与Mythos预览相关的调查中，18名Anthropic工程师中有5人认为，经过改进的该版本Mythos可能很快替代L4工程师——能独立承担复杂项目的中级程序员。
但仍存在预期中的弱点。报告写道：“Claude相比L4的主要报告弱点包括：自主管理持续一周的模糊任务、理解组织优先级、品味、验证、指令遵循与认识论。”
换句话说，其弱点正是自我导向的所有环节，而这正是RSI的基石。当然，除此之外，Claude已准备就绪。
与之前的AGI术语类似，AI行业也无法告知我们距离展示有意义的递归系统还有多远。去年，乔治城大学安全与新兴技术中心召集专家组研究RSI时，发现评估存在重大分歧——部分人预期即将迎来“超级智能”式爆发，另一些人预期进展缓慢并最终停滞。但所有人都同意递归使未来尤其难以预测。
CSET主任、OpenAI前董事会成员海伦·托纳告诉TechCrunch，仅使用AI工具进行AI研究不足以构成RSI。“他们只是尽可能多地使用AI，”托纳表示，“我认为这与RSI的经典定义不同，后者真正要求不需要人类。”托纳指出METR的Ajeya Cotra近期文章，该文区分了AI研究接管道路上的不同里程碑。Cotra称为“充分性”的阶段，指系统在移除所有人类后仍能进行研究——即使研究成果价值或效率较低。“对等性”指纯AI系统与纯人类系统研究能力相当。“优越性”作为最后阶段，指纯AI系统表现优于人机协作系统。
最终，Cotra得出结论认为AI已非常接近能自主产出部分工作的“充分性”门槛——类似于卡帕西Auto-Research系统的渐进改进。“如果有人告诉我这一里程碑已实现，我不会完全惊讶，我预计它将在未来几年内发生，”Cotra写道。她对“对等性”何时到来不太确定，但认为一旦实现，将“极大加速AI进步步伐，在一年内带来AI研究优越性。”
由于AI大量建立在缩放定律基础上，人们强烈倾向于认为RSI将遵循相同曲线。托纳认为许多通过RSI追求AI研发的人“将其视为相当平滑的阶梯，可以不断向上扩展”。但即便AI研究者能实现如卡帕西自动研究员般的渐进改进，在交接整个研究过程时仍将面临更大挑战。托纳以计算史为例：人类将越来越多过程交给机器，同时从顶层掌控。“我们从机器语言到汇编语言再到编译语言，离计算机核心越来越远，”托纳说，“但人类在直观意义上仍掌控全局。”
突破这一范式需要工程与对齐方面的重大挑战。但即便有巨大投资，也没有无限算力可用——人力与机器智能之间的基本权衡难以克服。至于世界末日式的全递归AI系统？研究者基本一致的看法是：如同AGI，它尚未到来。
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/kx/50776.html
