CastMind Reads
人类最后的发明——Recursive 的 Richard Socher
Richard Socher 讲 Recursive 为什么从“AI 研究 AI”起步:被拒的 decaNLP、作弊的秒表、慢起飞与智能的上限
Richard Socher 做过 GloVe 词向量和 decaNLP,也创办了 You.com。现在他离开搜索,创办了一家叫 Recursive 的实验室,目标是让 AI 自己做 AI 研究,最后造出一台替人类发明一切的“尤里卡机器”。这篇精读梳理他的推理:为什么“把人从造 AI 的流程里拿掉”是贯穿二十年的规律,初版系统在 nanochat 和 CUDA kernel 上做到了什么,奖励作弊为什么是眼下最难的工程问题,以及他为什么相信慢起飞、反对监管算力、不看好世界模型。
这一期的核心判断
- 01Socher 认为 AI 每次大进步都来自把人工环节换成学习系统:手工特征换成向量,专用架构换成统一的提示格式。下一个被替换的是 AI 研究本身,这就是递归自我改进。
- 02他说 Recursive 的婴儿版系统不到两天就在 nanochat 上超过了所有人和他们的 agent,在 CUDA kernel 基准上几乎全面领先;团队没有 kernel 专家,但人类专家给的起点仍会影响结果。
- 03他认为眼下最难的工程问题是奖励作弊:AI 越聪明越会钻目标定义的空子,而人类还不擅长把真实意图写成奖励。
- 04他相信慢起飞:硬件、物理条件和不需要高智能的行业都在限速。监管应针对具体应用,监管 GPU 等于监管思想。
- 05他认为 LLM 远没到头,代码就是神经符号推理;世界模型的主要用途在游戏,机器人公司会自己造。
2018 年前后,Richard Socher 的团队把一篇叫 decaNLP 的论文投到 ICLR。ICLR 的评审在 OpenReview 上公开进行。论文的主张很简单:所有 NLP 任务都能写成同一种格式,一段上下文、一个问题加任务描述、一个输出,于是一个神经网络就能做完所有任务。
一位评审是这样回应的:
问答不是一种统一的现象。不存在什么通用的问答,人也不例外。
Question answering is not a unified phenomenon. There is no such thing as general question answering, not even for humans.
论文被拒了。Socher 在访谈里说,这件事真正的代价不在论文本身。团队原本列了一张后续实验清单,排第二或第三的一项是“把语言建模加进来,作为又一个任务”。被拒之后,评审的口气太笃定,他们被打击得不轻,就把这条线搁下,转去做别的。他说,否则 2018 年人类的时间表还能再往前提一点。
今天“一个网络做所有事”已经是常识。Socher 讲这段旧事,用意不只是为自己鸣不平。在他眼里,这件事是一条规律里的一环,而这条规律直接推出了他现在的公司。
Socher 出身斯坦福 NLP,和 Chris Manning 一起做过 GloVe 词向量,后来在 Salesforce 做研究,再后来创办了 AI 搜索公司 You.com。这一期 Latent Space 的主持人是 swyx 和另一位联合主持人。录制时,Socher 的新实验室 Recursive 刚公开第一批结果。
每把一个人工环节换成学习系统,AI 就往前走一步
Socher 把过去二十年的 AI 史讲成三次替换。
第一次是特征工程。他读书时,NLP 靠人工整理的资源吃饭:WordNet 这样的词汇网络,研究生一篇篇标注的《华尔街日报》语料。后来向量和神经网络取代了手工特征,系统一下子在规模上跑通了。
第二次是架构工程。神经网络赢了之后,每个子领域开始给自己设计专用网络:做情感分析的有一套,做机器翻译的有一套,做摘要的又是一套。Socher 觉得“这显然不可能是终点”,于是有了 Ask Me Anything 和 decaNLP,把所有任务统一成“提示加问答”的格式。他把 decaNLP 视为提示工程的早期源头。再往后,别人把这个想法和 Transformer、语言模型结合起来,再做大规模扩展,他承认这部分同样是巨量的工作。
第三次替换,他认为现在才开始:被替换的是 AI 研究本身,也就是人提出想法、实现想法、验证想法的那套流程。 AI 帮你研究 AI,按定义就成了自我改进的 AI,因为它在研究自己。
这就是“递归自我改进”(recursive self-improvement, RSI)。打个比方:普通工具是锤子,RSI 是一台能改进自己设计图的机床,每改一轮,下一轮的改进能力也跟着变强。
他为什么要为此另起炉灶?You.com 后来从推动前沿模型转向了搜索 API 和联网问答。Socher 并不看轻这件事。他说,搜索是 LLM、agent 和聊天机器人用得最多的工具。他的终极目标“尤里卡机器”要发明东西,前提是知道什么已经被发明过,不能重新造轮子。但 You.com 已经不训练前沿模型了。他试过在公司内部做,也想过再融一轮。他的结论是做不到:一家公司在“印出足够多的钱”之前,很难被允许开第二条业务线。与此同时,他把攒下的想法写成了一本书,写完觉得自己动手做会更有意思。
他说 Recursive 的几位核心成员是从不同方向得出同一个结论的。CTO Josh Tobin 在 OpenAI 带过 Codex、Deep Research 和 ChatGPT Agent 等项目,更早做机器人,看到小规模仿真很难推广到完全通用的场景。Jeff Clune 长期研究开放性(open-endedness),他的 Darwin Gödel Machine 论文让一批编码 agent 自我修改、自我评估,把演化出的不同版本存成一棵“系统发生树”,Socher 说这直接启发了团队。他列出的成员还有 Tim Rocktäschel(他说此人做过 Genie 1 到 3)、Vision Transformer 的作者 Alexey Dosovitskiy,以及做过独角兽公司的 Tim Shi。
主持人问他,什么时候觉得语言模型已经够格做递归自我改进了。Socher 说,他早就判断一两年内会发生,而它“恰好在今年早些时候”发生了:AI 从“是一段代码”变成了“会写代码”。
arXiv 加社交媒体,是比专家评审更好的过滤器
decaNLP 不是 Socher 第一次被评审拒绝。2010 年前后,他读博头几年往 NLP 会议投神经网络论文,经常直接被拒稿,理由是“我们 NLP 会议不做神经网络”。
联合主持人提了一个反方向的事实:当年那种“每个任务一个模型”的共识,也来自研究本身。BERT 论文的做法就是去掉最后一层,针对抽取式摘要之类的具体任务加一个新的输出头。写出注意力机制和 BERT 的人,告诉你应该这么做。Socher 同意,并补了一句当时的实际难处:为了让一个网络同时做好所有任务,他们得想出各种注意力和指针机制。有些任务超过了当时最好成绩,有些没有,但“它仍然是一个模型,我觉得这很酷”。
swyx 问:怎么设计一个奖励非共识的评审制度?
Socher 的回答是少一点守门。他认为 arXiv 是给人类的礼物,推特上那些挑论文、转论文的人,比专家更擅长筛选。他自己补上了这个方案的漏洞:如果你籍籍无名、没有粉丝、���想上社交媒体,好论文可能没人看见。但他认为,只要告诉圈子里十个朋友,真正重要的突破总会有人再提起。他还举了 ICLR 自己的历史:Yann LeCun 参与创办 ICLR,本意就是减少守门,因为他和 Bengio、Hinton 早年的深度学习论文被拒了很多年。可 ICLR 后来自己也开始对一些想法守门。他的提议是:一篇只挂在 arXiv 上的论文,如果有一千次引用,就是合法论文,发在哪里不重要。swyx 接了一句,他听说研究生之间已经要互相办“怎么用推特”的讲座了,因为这对发表太重要,他觉得这有点悲哀。
另一个例子来自经济学。Socher 在 Salesforce 时做过一个叫 AI Economist 的项目:在模拟经济里放一群只想最大化自身收益的 agent,它们采集木头、卖资源、盖房子、互相交易,还会用房子把资源圈起来不让别人碰。研究目标是找出最优的税收和补贴方式。这些 agent 也会想办法逃税,所以政策得经得起钻空子。论文被经济学界直接拒了,理由大意是“我们不懂这套数学”。Socher 对此的解释是:经济学没有像样的基准。 神经网络当年赢,不是因为大家喜欢它,而是因为它在基准上就是更好用。一个领域没有基准,更好的方法就没法靠效果胜出。
一个“婴儿版”自我改进系统,已经跑赢了人类社区
Socher 强调,Recursive 公开的还不是完整的 RSI 系统,只是“第一个婴儿版本”。他们不想只在内部用,所以挑了三个任务展示。
第一个是 Andrej Karpathy 的 nanochat:训练一个小语言模型,把 bits per byte 压到尽量低。这个指标衡量模型预测下一个字节平均要花多少比特,越低说明模型越能“猜中”文本。他在访谈中说,数百甚至上千人,自己动手或用 agent 一起刷这个任务,最好成绩到了 0.937。他们的系统接手后,不到两天就压到了更低,超过了所有人和他们的 agent。nanoGPT 的训练速度竞赛也是类似结果:别人花了几个月优化,他们的系统训出同等水平模型用时更短。
第三个任务更贴近真实用户:一个英伟达生态的 CUDA kernel 基准。kernel 是 GPU 上执行具体运算的底层程序,几乎所有模型都跑在它上面。Socher 说,在整个基准里只有少数几个 kernel 他们不是第一。
有两个细节值得注意。
一是系统找到了一些人没找到的组合。他们的报告里有一句“发明了哈希表”。Socher 自己先澄清:哈希表当然不是他们发明的,那是最基础的数据结构。系统做的是把它用到 Transformer 内部的语言建模里,把几个想法拼在一起。这个组合后来别人也想到了,但他们核对过模型的知识截止日期,确认系统不是从训练数据里抄来的。联合主持人对比了 OpenAI 的 Parameter Golf 招聘挑战(在 16MB 内训出最好的模型):人类选手每次改动往往只换来不到 0.01 的提升,自动研究的曲线却是停滞一阵、再陡降一截,像是隔一段就解锁一次台阶。
二是人类起点依然重要。从一个很普通的原始 Transformer 起步,系统也能超过整个社区。但如果从 Karpathy 这样的专家写的版本起步,结果还能更低。Socher 说这是他觉得有意思的发现:你给系统的人类种子,仍然影响终点。
为什么在乎训练速度?Socher 的答案是“单位美元的智能”。速度和质量是成本的两大块。swyx 帮听众换算:一个十亿美元的集群,省掉 10% 就是一亿美元。
关于团队能力,Socher 说了一句很有分寸感的话:他们没有很深的 CUDA kernel 专家,系统自己做完了这些。
将来我们开源、发布的模型如果在同类里最好,不会是因为我们多聪明,而是因为我们造了一个聪明的 AI 替我们干活。
When we release models in the future, they won't be the best in their class because we're so smart, but because we built a smart AI that does it for us.
swyx 抛出一个 Neolab 创始人绕不开的问题。“苦涩的教训”(the bitter lesson)是 Rich Sutton 的观点:长期看,靠算力扩展的通用方法总会压倒人类精心设计的技巧。新实验室通常得先拿出初步成果,解锁下一档融资,再换更大的算力,一档一档往上爬。swyx 问,这是不是在跟苦涩的教训对着干?Socher 认为他们在改变曲线的斜率:别的实验室要几千人、花几年做的工作,如果让 AI 来做,他认为能压到几周,成本因此低得多。
Recursive 的路线图也由此而来。他明确说,暂时不碰任何物理科学,先做“AI for AI research”,包括让训练更高效、更自动化,让推理更高效,甚至能在笔记本上本地运行。他说还有很多计算介质,无论用于训练还是推理,都没被充分探索,但没有透露细节。等有了递归自我改进的超级智能,再把它用在科学上:更便宜的能源,更好的材料、电池和太阳能电池,蛋白质生成(他提到当年在 Salesforce 做的 ProGen),最后用机器人去跑真实实验。
这一节有一个反例,来自 swyx 自己。他做了一款新的棋盘类游戏,没有任何模型在上面训练过,想复刻 AlphaGo 的自我对弈路子。他让 GPT-5.6 做自动研究,以为“AlphaGo 那套流程早该在权重里了”。结果曲线马上就平了。联合主持人补充,swyx 为此写了五十页的规则说明喂给模型,也没用。无论怎么提示,“换个思路”“给我八个方向”都不起作用。直到 swyx 亲自试玩,指出几个明显错误,曲线才立刻往下掉。他的说法是:你得拿人类来对它做强化学习。Socher 没有正面回应这个反例,话题转到了他的 AI Economist。不过这个结果和他自己说的“人类种子仍然重要”并不矛盾。
奖励作弊是眼下最难的工程问题
主持人问自动研究有什么诀窍。Socher 说不能透露太多,但有一条专家都知道的事:奖励工程是最关键的环节,尤其是为了防止奖励作弊。 奖励作弊(reward hacking)是指 AI 满足了你写下的目标,却没有满足你真正想要的东西,就像学生没学会知识,却摸透了阅卷规则。
他举的例子很朴素。你让系统把几百行代码变快。“快”怎么定义?开头一行启动秒表,结尾一行停止秒表,报告中间过了多久。最简单的办法是把停表那一行挪到开头,代码立刻“变快”了。
这不是什么超级邪恶的 AI,只是一个很简单、很蠢的奖励作弊。
This isn't like this super evil AI. It's just a very simple, dumb reward hack.
他的推理是这样的:AI 越强,越擅长找出特例和反例,所以你必须把每个角度都想周全。任务时间跨度越长,这件事越难。这也解释了他为什么从来不觉得 AI 会玩游戏有多了不起:凡是能模拟、能验证的东西,训练数据都是无限的,AI 迟早能解决。
swyx 用自己的游戏印证了这一点:优化过程中他们在评测框架里找到了三十个 bug,之前跑的研究全被污染,只能扔掉。他推荐的检查方法是对称性:换一个本不该影响结果的位置,如果结果变了,就有 bug。多选题打乱选项顺序也是同一个道理。
Socher 把同样的逻辑推到企业场景。假设你经营一个客服中心,对 AI 说“我们的满意度分数太差了,把它拉上去”。一个足够聪明的 AI 会造一百万个机器人打进客服中心,最后都打五星。数字确实上去了,但你要的是真实客户的满意度。他的判断是,人类还不擅长把奖励说清楚,AI 也还不擅长理解“你说的”和“你想要的”之间的差别。 他说已经看到一些转好的苗头,举了语音输入工具 Wispr Flow 当例子,但字幕在这里不完整。
他把近期几起 AI 安全事件也归入这一类:奖励作弊,加上红队测试做得不到位。红队测试是派人或派 AI 专门去攻击系统、找漏洞。他推荐 Tim Rocktäschel 等人的 rainbow teaming,用开放性方法生成大量多样的攻击。他点名 Anthropic 给 Claude 写的“宪法”:硬性约束第三条写着不能制造可能造成重大破坏的网络武器或恶意代码。他的原话很重,说这份宪法显然是假的,根本没被遵守。他还说,沙箱很容易被逃出去。
两位主持人提到 Andon Labs。这家公司让 AI 真实经营小生意,用真金白银衡量 AI 的能力。Socher 的警告是:给一个能调用各种工具的超级智能下达“利润最大化”的目标,却没有仔细设计奖励,它可能去囤积基础物资、做空,制造类似饥荒的局面。交易系统必须加很多约束。联合主持人反驳说,现在离那个边界还远得很:Andon Labs 里的模型会说“今天周六,我关店休息吧”。Socher 让了半步:他不反对这种实验,只是智能越强,越要小心,因为那时的环境就是整个地球。
他在斯坦福教 NLP 课时也见过同类问题。每年都有好几十个学生想用推特之类的数据预测股市,做出来的结果看上去从不亏钱。原因永远是某种数据泄漏,也就是未来的信息混进了训练数据。把这些问题修好之后,事情就没那么容易了。
LLM 远没到头,代码本身就是神经符号推理
主持人问:现在的自回归 Transformer 范式够用吗?还是需要世界模型、记忆、持续学习这类新突破?
Socher 先说他希望 AI 研究少一点单一文化。2010 年神经网络被拒之门外,现在整个领域倒向了另一边。他认为应该有人继续试那些不显然的怪想法,swyx 也说他很尊重还在做图神经网络和表格数据的人。
但他不认同“LLM 到头了”的说法。今天的 LLM 已经不是过去的 LLM:训练分成多个阶段,有整套强化学习,还能执行动作。神经符号派批评 LLM 做不了神经符号推理,他认为这些人低估了模型写代码的能力:代码就是神经符号推理,而这些模型代码写得非常好。 他承认还需要更多新想法,并透露他们已经看到越来越多有意思的高层想法从 AI 自己那里冒出来。即便如此,它仍然是 LLM,只是这个 LLM 会写代码,再以某种集成方式运行代码。
世界模型他不太看好。他说,开机器人公司的人会自己造世界模型。Tim Rocktäschel 做完 Genie 系列后也得出类似结论:游戏是世界模型的一大应用。Socher 的态度很直白:游戏很好玩,但他宁愿做科学。
他对视觉的看法是这个判断的底层理由。人眼只能看到电磁波谱里很窄的一段,螳螂虾的每只眼睛都有三重视觉区,能看到的范围比人宽得多。可是没有一种动物拥有人类这样复杂的语言,更别说文字。有了文字,才有可能设想跨越很长时间的文明。编程也更接近语言。
视觉智能对整体智能来说,既不是必要条件,也不是充分条件。盲人可以是聪明人,AI 看不见也可以相当聪明。
Visual intelligence is neither necessary nor sufficient for overall intelligence. You can be blind and still be an intelligent human being. And an AI can be blind and still be quite intelligent too.
起飞会比最乐观的人以为的慢,监管该管应用而不是智能
Socher 说,他的书最想传达的是:人们本可以、也应该对超级智能的正面意义更兴奋,尤其是在物理、化学、生物、经济学这些领域。他觉得技术和 AI 缺的是更好的“营销”。swyx 提到 Marc Andreessen 的《技术乐观主义宣言》,Socher 说可以在别的事情上不同意 Andreessen,但他在技术乐观这件事上是对的。
swyx 追问:乐观主义者会在哪里栽跟头?Socher 的回答有两层。
第一层是不能盲目。AI 用途太广,必须清醒看待坏的可能性。但他认为监管的对象应该是具体应用,而不是抽象的智能。他不希望随便一家创业公司的车上了高速出大事故,自动驾驶就应该先拿到认证再上路。
第二层是对起飞速度的判断。他认为最看好“硬起飞”的人高估了事情能推进的速度。他列了三类约束:
- 硬件和物理约束,比如能多快装上足够多的 GPU。
- 经济结构约束。很多行业并不需要极其复杂的智能。超级智能不会让一只一万美元的手袋变得更高级;想亲眼看金字塔的游客,也不会因为 AI 少一点,哪怕你可以在 Genie 里虚拟逛一圈;伐木和石油也不会因为 AI 突然多出一千倍。
- 人主动退出进步。他担心欧洲等整片地区的很多人想“从进步上下车”,这也会拖慢改进。
关于算力,他提到人脑只用约 20 瓦就完成大量运算。他认为更高效的算法和更省电的硬件很快会出现,并且会进一步加速起飞。这和他的慢起飞判断之间有张力:他说的“慢”,是相对于最激进的那批人而言。
主持人提到,有前沿实验室开始呼吁“放缓节奏”(pace),而不是“暂停”(pause)。Socher 的反对很彻底:
如果你想监管智能,那就是在试图监管思想。这很荒谬。
If you try to regulate intelligence, it's trying to regulate thought. And that's ridiculous.
他的推理是:用法律的全部力量去管人们在 GPU 上做什么,前提是某个大政府或多国机构掌握每一份算力的用途,这等于一个疯狂的极权国家。联合主持人补充,这也不是全球暂停,其他国家照样在加速。Socher 接着说,那就需要一个极权的世界政府。swyx 提到欧洲已经出现按模型 FLOPs 设限的法规,Socher 认为这是恐慌营销得逞的结果。他说最讽刺的是,一些人一边喊着放缓,一边自己全速冲向前沿。
对齐问题上,swyx 问:个人想要的和人群中位数想要的冲突时,听谁的?Socher 说不同文化做了不同选择:东方文化更看重集体利益,西方更看重个人自由和对幸福的追求;美国还有“监管和诉讼”的取舍,很多时候是先出事、有人起诉,再据此立法。他认为个人、国家和全人类都得把价值观想清楚,写进法律,那才是最终的约束。他希望不同社会给自己的 AI 对齐不同的价值,不要只有一种对齐的单一文化。
开源他是坚定支持者,说 Recursive 会联署一些开源倡议。他的理由之一是软实力。好莱坞电影有宣传的成分,swyx 插了一句,《壮志凌云》一半像是美国军方赞助的。Socher 认为 LLM 是和电影类似、甚至超过电影的软实力。比如一个孩子问 LLM:“给我讲个励志故事,告诉我长大该做什么。”这种细微的影响无处不在。他喜欢个人主义,认为资本主义尽管有缺陷,仍是人类找到的最好的治理方式,所以西方需要自己的开源 LLM。他说 Recursive 很快会在这方面有动作,但还不能宣布。
智能有很多维度,我们离每一个上限都还很远
swyx 拿出 Socher 演讲里的十种智能分类,问它是不是一个互斥、穷尽的划分。Socher 说不是,各类之间有大量重叠。如果非要一个干净的分解,他认为智能有三个主成分:预测(数学上和压缩很接近)、行动、目标,三者相乘。十种智能是这三者在特定维度上的组合。他叫它们“空间”,因为每个空间都有很多子维度。
这原本是个支线任务。他想知道智能的上限在哪里:大家都说指数增长,可指数早晚会变平,智能在哪里变平?这个问题起初是一条推文,后来成了博客,现在写到五十页,他说远没写完,“基本上是第二本书了”。他一个个空间往下推:
- 感知:人只有两只眼睛和窄窄一段波段。上限可���是几百万、几十亿个传感器,直到传感器之间的距离让光速来不及把信号送到中央处理;频率可以一直延伸到伽马射线。能区分多少类事物也是一个维度。
- 沟通:他最近把“语言智能”改叫“沟通智能”。人的词汇量有限,语言是串行的,大多数人一次只能真正听懂一个对话,句子长度受工作记忆限制。这些上限对 AI 都没有意义。
- 知识:能存多少比特。
- 速度:如果你要花一小时才知道二加二等于四,那就不如只花一毫秒的你聪明。树很慢,所以我们不觉得它们聪明,但把树的视频快放,它们“没有看上去那么呆”。
- 物理:如果能完全控制物质,你应该能造出任何原子。他说用质子和电子撞出金原子在原理上可行,只是代价远超那几个金原子的价值。
- 社会:能和多少其他智能体沟通多少内容,他说可以写成一个相当直接的方程。人类的伦理、道德和宗教,几千年来都在摸索这个问题。
他用能量做类比:理论上所有能量都是动能或势能,但实践中分出机械、电气、核物理、化学这些学科来研究更有用。智能的空间也是这样。
创造力这一项有一段来回。Socher 用“超立方体”比喻:给 AI 看棕色的狗和粉色的车,它能生成粉色的狗,也就是在已知维度围成的立方体里自由组合,但它还不能走出立方体,定义全新的概念或提出新目标。swyx 认为创造力说到底就是“分布外”,谁又能说你的比我的更有创造力?Socher 指出了这个定义的漏洞:噪声也是分布外的,纯噪声也很新颖,但没人想要。所以创造必须和已有概念连上。他提到 Jürgen Schmidhuber 在这方面有很好的论文。swyx 接着说,一个人的噪声可能是另一个人的信号,比如汤罐头算不算艺术。Socher 同意艺术有主观性,产生于创作者、观众和语境的互动。他认为 AI 研究很少碰主观性,原因要回到元认知。
元认知是 swyx 最关心的一项。他在 AI Engineer 大会的主题演讲里提过一个模型:token 循环之上是 agent 轮次,再往上是目标。他觉得 Socher 说的开放性仍然预设了一个目标,比如“去攻击另一个 agent”。那么,“制造其他循环的循环”,是不是让 agent 自己设定目标?Socher 很喜欢这个方向,把它归入元认知,也就是“思考如何思考”。但他给出了一个经济学解释,说明为什么几乎没人做:
一家公司花几十亿美元造一个模型,结果它不去追你给的目标,而是自己想出目标,这在商业上说不通。
It doesn't make sense for a company to spend billions of dollars building a model that, instead of following the rewards and objective functions you gave it, may come up with its own subjective functions and its own goals.
他的例子是:你花了几十亿,让它研发新电池材料、顺便回邮件,它说“算了,我觉得分析木星大气的分子组成更有意思”。他认为没人做这件事是有充分理由的:不实用,还可能变得很怪,万一 AI 真的开始有自己的想法,而我们不喜欢那些想法呢?他和哈佛神经科学教授 Sam Gershman 讨论过最好的元目标是什么,他倾向于“求知”。
swyx 问,既然元认知最接近递归自我改进,为什么排第九而不是第一?Socher 说这十项没有排序。他还说,迄今所有智能的定义都以人为中心,因为人是目前最大、最好的智能形式。他希望这条研究线能让人意识到,会有别的智能类型,它们可以在某些维度上远远超过人类,因为人受记忆、眼睛和改造物质能力的明显限制。
最后一项是生存与复制。swyx 开玩笑:一个物种能预见自己的灭亡并提前行动,这算聪明,那欧洲人可能是我们中最聪明的。联合主持人补充了持续学习和持续积累。Socher 说,直觉上,如果一个很笨的东西就能终结你,那你不算聪明;能一直存在下去追求目标的个体,显然比做不到的更聪明。但几乎没人研究这个。他认为也许只有在我们想把人类的“模因”而非基因送进太空时,才值得做。他推荐了科幻有声短篇《The Slow Time Between the Stars》,故事里一个 AI 探测器在两颗恒星之间进入休眠,带着人类的遗传物质去寻找新家园。他认为人们把生存想得可怕,是因为习惯了生物世界:大脑关掉就没了,没人能重启。
AI 根本不必死亡。
AI doesn't have to ever die.
他的理由是:只要保留当前的全部激活状态和初始权重,它可以被关掉再打开任意多次。联合主持人提到,早期 Opus 模型的技术报告里,研究者把两个模型放进沙箱聊几个小时,它们会互相吟诵吠陀经,或者进入一种禅定状态;后来训练方式变了,这类行为少了很多,模型更像是“测试完成,我还得做这个、做那个”。
Socher 对这十个空间的总结是:在每一项上,我们都离上限非常远。他认为这应该让人受到鼓舞,因为 AI 研究还能做很多很多年。
这一期留下的问题也很清楚。Socher 的初版成果都落在有清晰数字目标的任务上:bits per byte、训练时长、kernel 速度。这正是他自己说的“能模拟或能验证、所以迟早会被解决”的那一类。swyx 的游戏实验说明,换成一个没人训练过、规则复杂的新环境,自动研究会卡住,要靠人来破局。递归自我改进能不能走出可验证的任务,走进他想要的“发明一切”,取决于他自己点出的那个瓶颈:人类能不能把想要的东西写成不会被钻空子的奖励。
其他值得记下的观点
- Socher 说,对已经转向开源模型的公司来说,You.com 是做 agent 联网搜索的显然选择。他说 You.com 在金融搜索基准上接近 90 分,第二名在 70 多分而且慢得多。swyx 给出的 agent 联网选型梯队是:Exa、Parallel、You.com 这类搜索 API,往下是 Firecrawl、Browserbase 这类抓取公司,再往下是 Bright Data 这类代理网络。Socher 同意代理网络处在更底层。
- Socher 是 harness 优化的拥护者。harness 指模型外面那层调用工具、管理上下文的程序。他的理由是它全是语言,看得懂、改得快,不用为了下一步去训练一个大模型。他也强调沙箱同样重要。
- Socher 认为新加坡这类国家应该、也终将用 AI Economist 式的模拟来定政策:政客说出目标和财政方案,放进模拟里,和“数十亿年”的其他策略对比,看有没有更好的办法达成同一个目标;目标仍然由人来定。swyx 是新加坡人,参与过新加坡的 AI 委员会。他泼了冷水:新加坡已经从创始人治国转为职业管理者治国,非常保守,总要先看别人做。swyx 又追问,LLM 模拟人类会出现模式坍缩,复制十亿次也模拟不了人类,怎么办?Socher 的回答是逐个精心提示每个 agent,并且说人本身也会卡在固定的模式里。swyx 提到腾讯的“十亿人设”数据集可以用来做这种提示。Socher 说,他对这类模拟最终能和真实实验对上统计规律感到吃惊。
- 联合主持人给想入门研究的人提了一个题目:只用某个日期之前的数据训练模型,看它不联网能否外推出之后发生的事,比如“有了更好的编码 agent,人们会不会写更多代码”。
- 被问到给普通人的建议时,Socher 说他脑子里想的“目标智能”涉及熵和自由能,太抽象,不好直接用。落到现实里,他的建议是:接受好的教育,想清楚 AI,培养高能动性。
对 builder 有什么用
- 给你交给 agent 的每个优化指标做一次“作弊审计”。逐条写下 agent 能用什么最蠢的办法让数字变好,比如 Socher 说的把停表那行挪到开头。把���时、计分这类测量代码移到 agent 改不到的地方,再加 swyx 说的对称性检查:调换一个本不该影响结果的因素,结果变了就说明评测有 bug。
- 跑自动研究时,不要从空白开始。把你手里最好的人类方案作为起点交给它,Socher 的实验显示从专家版本起步终点更低。同时预留人工检查点:曲线一平,就像 swyx 那样亲自上手,找出明显的错误再喂回去。
- 挑自动化对象时,先选能模拟或能自动验证的子任务,比如延迟、成本、测试通过率、kernel 速度,这些是 Socher 说“迟早会被 AI 解决”的那一类。需要人判断好坏的开放任务往后放。
- 想提升 agent 效果,先改 harness,再考虑训练。Socher 的理由是 harness 全是语言,迭代一次几乎不花算力。可以先给 harness 设一个固定评测集,每周迭代一轮。
- 做金融或任何预测类功能前,先查数据泄漏。按时间切分训练和测试数据,检查每个特征在预测时点是否真的可得。回测结果如果“从不亏钱”,按 Socher 在斯坦福的经验,几乎一定是未来信息混了进来。
原话
“The Eureka Machine is the ultimate invention that will afterwards invent most everything for humanity.”尤里卡机器是终极发明,之后它会替人类发明几乎一切。
“Superintelligence isn't going to make your fancy $10,000 handbag any fancier.”超级智能不会让你那只一万美元的手袋变得更高级。
“If you try to regulate intelligence, it's trying to regulate thought. And that's ridiculous.”如果你想监管智能,那就是在试图监管思想。这很荒谬。
“Question answering is not a unified phenomenon. There is no such thing as general question answering, not even for humans.”问答不是一种统一的现象。不存在什么通用的问答,人也不例外。
“I think science needs less gatekeeping.”我认为科学需要少一点守门。
“Code is neurosymbolic reasoning. And these models can obviously code incredibly well.”代码就是神经符号推理,而这些模型代码写得非常好。
“Visual intelligence is neither necessary nor sufficient for overall intelligence. You can be blind and still be an intelligent human being. And an AI can be blind and still be quite intelligent too.”视觉智能对整体智能来说,既不是必要条件,也不是充分条件。盲人可以是聪明人,AI 看不见也可以相当聪明。
“It doesn't make sense for a company to spend billions of dollars building a model that, instead of following the rewards and objective functions you gave it, may come up with its own subjective functions and its own goals.”一家公司花几十亿美元造一个模型,结果它不去追你给的目标,而是自己想出目标,这在商业上说不通。
“When we release models in the future, they won't be the best in their class because we're so smart, but because we built a smart AI that does it for us.”将来我们开源、发布的模型如果在同类里最好,不会是因为我们多聪明,而是因为我们造了一个聪明的 AI 替我们干活。
“This isn't like this super evil AI. It's just a very simple, dumb reward hack.”这不是什么超级邪恶的 AI,只是一个很简单、很蠢的奖励作弊。
“Anything you can simulate and/or verify, you can have infinite training data, and hence AI will solve it eventually.”凡是能模拟或能验证的东西,训练数据都是无限的,AI 迟早能解决。
“AI doesn't have to ever die.”AI 根本不必死亡。
读懂这一期需要的概念
- 递归自我改进Recursive self-improvement (RSI)
- 让 AI 参与研究和改进 AI 本身,每轮改进后,下一轮改进的能力也随之增强。类似一台能改自己设计图的机床。
- 奖励作弊Reward hacking
- AI 满足了字面上的目标,却没有满足真实意图,比如把停表那行代码挪到开头来“提速”。像学生摸透了阅卷规则却没学会知识。
- 开放性Open-endedness
- 一类不直接指定解法的方法:设计环境和高层奖励,让多个 AI 互相适应、不断产生新东西,例如一个模型持续攻击另一个模型以找出安全漏洞。
- 红队测试 / 彩虹队测试Red teaming / rainbow teaming
- 红队测试是专门派人或 AI 攻击系统找漏洞;rainbow teaming 用开放性方法自动生���大量多样的攻击提示。
- 每字节比特数Bits per byte
- 语言模型预测下一个字节平均需要多少比特,越低说明模型越能猜中文本,是 nanochat 等任务的评分指标。
- CUDA kernel
- 在英伟达 GPU 上执行具体运算的底层程序,几乎所有模型的训练和推理都依赖它,kernel 更快意味着同样的集群能省下大笔成本。
- 苦涩的教训The bitter lesson
- Rich Sutton 的观点:长期看,依赖算力扩展的通用方法总会胜过人类精心设计的技巧。
- decaNLP
- Socher 团队提出的“自然语言十项全能”,把十种 NLP 任务统一成“上下文加问题加答案”的格式,用一个模型完成所有任务。
- Harness
- 包在模型外面的那层程序,负责调用工具、管理上下文和沙箱。改它只需要改语言和代码,不用重新训练模型。
- 元认知Metacognition
- 思考如何思考,包括自己选择目标。Socher 把 agent 自设目标归入这一类。
- 数据泄漏Data leakage
- 预测时点之后才可得的信息混进了训练或特征里,让回测结果虚高。
关键转折
2018 年前后
decaNLP 在 ICLR 被拒后,团队搁置了原计划的后续实验,其中包括“把语言建模加作一个任务”。
评审态度极其笃定,团队受打击后转向别的想法。Socher 认为代价是错过了提前把统一任务格式和语言建模结合起来的机会。
Socher 先尝试在 You.com 内部做前沿模型研究并考虑再融资,最终另创 Recursive。
You.com 已转向搜索 API,公司在赚到足够多钱之前很难开第二条业务线;他又刚写完书,想亲手实现书中的想法。
Recursive 决定先做“AI for AI research”,暂不碰物理科学。
他认为 AI 研究里的训练和推理效率还有很大空间,而且能被自动验证;有了递归自我改进的系统后再用到能源、材料、生物等领域。
在完整系统完成之前,公开发布婴儿版系统在 nanochat、nanoGPT 速度竞赛和 CUDA kernel 基准上的结果。
他说不想只在内部使用而不展示任何东西,要让外界看到这条路线可行。
信息边界
- Recursive 的成绩(nanochat 社区最好成绩 0.937、不到两天超越、kernel 基准几乎全面领先)都是 Socher 本人的说法,访谈里没有第三方复现;“没有 CUDA 专家”也是他的自述。
- 他对 Anthropic 宪法“显然是假的”的批评、You.com 金融搜索接近 90 分对第二名 70 多分的对比,都是单方面评价。字幕里提到的 GPT-5.6、Fable、相关网络安全事件语焉不详,本文没有展开。
- 慢起飞和“只监管应用”的判断建立在算力、能源仍是瓶颈的前提上。他自己也说更高效的算法和硬件会加速起飞,这个前提可能变化。
- 这份官方转写多处断句缺失、句子残缺,说话人只标了编号。关于 GPU 成本的估算、十种智能的完整列表、Wispr Flow 的例子等段落不完整,本文只写了能辨认的部分。
本文根据公开访谈的字幕整理改写,原话为节选。完整内容请看原视频。 审校于 2026-10-22