编者按：在人工智能领域，理查德·索赫（Richard Socher）的名字并不陌生——他曾创立早期聊天机器人初创公司You.com，并在ImageNet时代留下印记。如今，他携旧金山初创公司Recursive Superintelligence重返舞台，这家公司刚刚结束隐身模式，以6.5亿美元融资震惊业界。索赫与彼得·诺维格（Peter Norvig）、Cresta联合创始人蒂姆·施（Tim Shi）等顶尖AI研究者联手，致力于打造一个能自主识别并修复自身缺陷的递归式自我改进AI——这是当代AI研究中的“圣杯”。本文通过深度访谈，揭示了这一突破性项目的技术路径、目标初心，以及索赫对AI未来的独特视角。以下是编译后的内容，保留原文关键信息：
理查德·索赫在AI领域占据重要地位已有时日，最著名的是他创立了早期聊天机器人初创公司You.com，在此之前，他参与了ImageNet项目。如今，他正加入当前一代以研究为导向的AI初创公司行列，创办了一家名为Recursive Superintelligence的旧金山初创公司。这家公司于周三结束隐身模式，并宣布获得6.5亿美元融资。
索赫与一群杰出的AI研究者共同创办了这一新企业，包括彼得·诺维格和Cresta联合创始人蒂姆·施。他们正携手打造一个递归式自我改进的AI模型——一个能够自主识别自身弱点，并重新设计自己以修复这些弱点，而无需人类参与的模型——这是当代AI研究中长期追求的圣杯。
在项目发布后，我通过Zoom与他交谈，深入探讨了Recursive独特的技术方法，以及他为何不认为这个新项目是一个“新实验室”（neolab，指优先研究而非构建产品的新一代AI初创公司的非正式术语）。
本次采访经过编辑，以求简洁明了。
如今我们经常听到“递归”这个词！看起来它在不同实验室里是一个相当常见的目标。你认为你们的独特方法是什么？
我们的独特方法是利用开放终结性来实现递归自我改进，这是目前还没有人实现的目标。对很多人来说，这是一个难以企及的目标。很多人已经假设，当你进行自动研究时，这种情况就会发生。你知道，你可以让AI去改进其他东西，这可能是机器学习系统，或者只是你写的一封信，或者其他任何东西，对吧？但这不是递归自我改进，那只是改进。
我们的主要目标是构建真正意义上的递归式、自我改进的超级智能，并且要达到一定规模。这意味着从构思、实施到验证研究想法的整个过程都将自动化。
首先，[它]会自动化AI研究思路，最终会自动化任何类型的研究思路，甚至包括物理领域的研究。但当AI作用于自身时，这一点尤其强大——它会发展出一种新的自我意识，意识到自己的不足。
你用了“开放终结性”这个词——它有特定的技术含义吗？
确实有。事实上，我们的联合创始人之一蒂姆·罗克特舍尔（Tim Rocktäschel）曾在Google DeepMind领导开放终结性和自我改进团队，他特别参与了世界模型Genie 3的工作，这是开放终结性的一个极佳例子。你可以告诉它任何概念、任何世界、任何代理，它就能直接创建出来，而且是可交互的。
在生物进化中，动物适应环境，然后其他动物则对这些适应进行反适应。这是一个可以持续数十亿年的过程，而且有趣的事情一直在发生，对吧？这就是我们[头部]进化出眼睛的方式。
另一个例子是蒂姆另一篇论文中的“彩虹团队”（rainbow teaming）。你听说过“红队”（red teaming）吗？
在网络安全领域，它的意思是——
和，红队也得在大型语言模型（LLM）情境下进行。基本上，你试图让LLM告诉你如何制造炸弹，而你要确保它不会这么做。
现在，人类可以花很长时间坐在那里，想出一些有趣的例子来说明AI不应该说什么。但如果你用第二个AI来测试第一个AI呢？第二个AI的任务就是让第一个AI[尝试]说出所有可能的不良内容。然后它们可以来回进行数百万次迭代。
实际上，你可以让两个AI共同进化。一个不断地攻击另一个，然后不仅从一个角度，而是从许多不同角度进行攻击，这就是“彩虹”这个比喻的由来。然后你可以对第一个AI进行“免疫”，让它变得越来越安全。这是蒂姆·罗克塔舍尔的想法，现在已在所有主要实验室中使用。
你怎么知道它什么时候完成？我想它永远不会完成。
其中一些事情永远不会完成。你总是可以变得更聪明，你总是可以在编程、数学等方面变得更好。智能存在一些边界；我实际上正在尝试将它们形式化，但它们是天文数字级别的。我们离那些极限还非常遥远。
作为一个“新实验室”，感觉你们应该做那些主流实验室没有在做的事情。所以，这里隐含的意思是，你认为主流实验室无法通过他们正在做的事情达到RSI（递归自我改进），对吗？
我无法评价他们正在做什么，但我确实认为我们采用了不同的方法。我们真正拥抱开放终结性的概念，我们的团队完全专注于这一愿景。并且，团队在过去十年中一直在研究这一领域，并发表相关论文。这支团队有着显著推动该领域发展并交付实际产品的记录。你知道，蒂姆·施将Cresta打造成了一家独角兽公司。乔什·托宾（Josh Tobin）是OpenAI的早期成员之一，最终领导了他们的Codex团队和深度研究团队。
实际上，我有时会对“新实验室”这个类别感到有些纠结。我觉得我们不仅仅是一个实验室。我希望我们成为一家真正可行的公司，拥有让人们喜爱使用并给人类带来积极影响的惊人产品。
那么，你们计划什么时候推出第一个产品？
我已经考虑过很多了。团队已经取得了很大进展，我们可能实际上会比最初预期的时间线提前。是的，会有产品，但你需要等几个季度，而不是几年。
递归自我改进的理念之一是，一旦我们拥有这种系统，计算能力将成为唯一重要的资源。你运行系统的速度越快，它改进的速度就越快，而且外部的任何人类活动都不会真正产生影响。所以竞争就会变成：我们能投入多少处理能力？你认为我们会走向这样的世界吗？
计算能力不容低估。我认为在未来，一个非常重要的问题是：人类想要花费多少计算能力来解决哪些问题？这里有这种癌症，那里有那种病毒——你想先解决哪一个？你想给它多少计算能力？最终，这变成了资源分配的问题。这将成为世界上最大的问题之一。
