All reads

CastMind Reads

Nat Friedman(GitHub CEO):读古卷、开源与 AI

弗里德曼谈世界为什么不高效:悬赏破解火山古卷、收购 GitHub 后的前 100 天、Copilot 的交互试错、AI 秘密的短半衰期与模型扩散

Dwarkesh Podcast · 2023-03-22 · 01:38:23 · 23 min readWatch the original

This read is written in Chinese. Quotes are shown in both English and Chinese.

2023 年 3 月,前 GitHub CEO 纳特·弗里德曼在 Dwarkesh Podcast 上谈了三件看似无关的事:悬赏破解两千年前被火山碳化的古卷,说服微软收购 GitHub 并做出 Copilot,以及他对 AI 扩散的判断。把它们串起来的是同一个信念:世界远没有我们以为的高效,很多显而易见的事其实没人在做。这篇精读整理他的推理和做法。

Key points

  1. 01弗里德曼认为世界远没有我们默认的那么高效:一家顶级对冲基金的交易员告诉他,每月公开 10 分钟一个月前的策略,一年后利润会降约 80%,说明值钱的秘密很简单,却长期只有少数人掌握。
  2. 02他认为破解赫库兰尼姆古卷的关键部件已被验证,墨迹识别在碎片上可行,剩下主要是几何和视觉问题,不确定性在于有没有人去做,所以用公开悬赏比给单个团队拨款更快。
  3. 03他认为 AI 实验室的秘密值钱但半衰期很短:秘密简单、学术分享传统、人员混居、加州无竞业协议,加上数据公开、硬件是商品,基础模型会大范围扩散而不是形成寡头。
  4. 04他认为 Copilot 的突破来自交互设计:从问答机器人、整段生成、多候选挑选一路试错,最后靠语法树判断补全长度、灰色内联文本和低延迟模型,才让中位数用户留下来。
  5. 05他认为收购的价值在于保住被收购方脆弱的创新文化;GitHub 收购后,他用每天修一个社区呼声最高的问题、连续 100 天的方式,向开发者证明 GitHub 在乎的是他们而不是微软。

1750 年,意大利一个农场工人在赫库兰尼姆城郊挖井。挖到地下大约 18 米,他碰到了一块大理石铺路石。随后的发掘挖出了一座巨大的海滨别墅,主人据说是尤利乌斯·凯撒的岳父。挖掘者的目标是青铜雕像。一路上他们不断碰到一团团像木炭的东西,很多被随手扔掉了。直到有人在其中一块上看见了字迹,大家才意识到这是纸莎草卷轴,而且有成百上千卷。

这是古代世界唯一以某种形式留存下来的图书馆。公元 79 年维苏威火山喷发,把整座城埋在约 20 米厚的泥和灰下。卷轴被碳化了,没有腐烂,但一碰就碎。

纳特·弗里德曼是在疫情封控期间掉进这个"兔子洞"的。他做过两家被收购的公司(Ximian 和 Xamarin),2018 到 2021 年任 GitHub CEO,还创办了 AI Grant 和推动加州住房建设的 California YIMBY。主持人德瓦克什·帕特尔请他来,从这批卷轴聊起。

关键部件都已验证,缺的只是有人把它拼起来

卷轴的故事有一段惨烈的前史。18 世纪的人试过用匕首从中间剖开,试过玫瑰水、各种油,甚至往里灌水银,指望它能滑进层与层之间。几百卷就这样毁了。一位叫皮亚乔的修士在梵蒂冈支持下造了一台机器,每天展开约半厘米,成功打开了几卷,里面是伊壁鸠鲁学派哲学家菲洛德穆的著作。此后人们基本放弃了物理展开。现在还剩 600 多卷大体完整、无法打开的卷轴。

弗里德曼为了理解手里的材料,在亚马逊上买了纸莎草,放进铸铁锅,在 500 华氏度下闷烤五六个小时模拟碳化。结果一捏就成灰。他们还复现了 18 世纪的那些展开手法,大多极具破坏性。

转机来自肯塔基大学教授布伦特·西尔斯。他开创了"虚拟展开"(virtual unwrapping)这个领域:用 3D X 光扫描整卷,在体数据里把每一层分割出来,再用计算机视觉把它"摊平"来读。西尔斯先在以色列出土的恩格迪古卷上做成了。那卷书的墨水在 X 光下对比度很高,最后读出来是《利未记》的早期片段。

赫库兰尼姆卷轴是"专家模式"。弗里德曼说难在三处:

  • 墨水对 X 光的吸收和纸莎草几乎一样,扫描图上看不到字;
  • 卷轴卷得很紧,又被火山泥加热、挤压变形,逐层分割很难;
  • 要拿到卷轴、再排上粒子加速器的机时,又贵又难。

西尔斯团队 2019 年把卷轴带到英国的钻石光源同步辐射装置,做了 8 微米分辨率的扫描。最近几个月,他们用卷积神经网络在 X 光数据里认出了墨迹。人眼看不出来,模型能抓住吸收率里极细微的模式。训练数据的来源很巧:历年试图展开时掉下的碎片,有些在红外照片里能看清字。拍红外图当作标准答案,再给同一块碎片做 CT,两者配准对齐,就有了训练集。

帕特尔追问:碎片和卷在里面的纸莎草是一回事吗?弗里德曼承认这是"非常正当的担忧"。碎片上墨水的上方是空气,卷轴内部的墨水可能紧贴着下一层纸莎草,模型未必认得。他的回应是,卷轴内部也有些地方层间留有空隙,所以模型"至少应该部分有效",剩下的交给聪明人。

他给这件事成功的概率是 50%。推理链是这样的:

  1. 墨迹识别已经在碎片上被证明可行,剩下的主要是几何和计算机视觉问题;
  2. 8 微米的分辨率下,一层纸莎草大约横跨 6 到 8 个体素,"就在够用的边缘";
  3. 信息物理上就在卷轴里,墨和纸都碳化了,从目前结果看也大概率进入了扫描数据。

所以他的不确定性主要不在技术,而在"有没有人真的去做"。

那为什么用公开悬赏,而不是直接拨款给西尔斯团队?弗里德曼的回答是解空间太大。比赛意味着很多人尝试很多办法,"众目之下,任务会变浅"。获胜者甚至可能不用机器学习。帕特尔又问:既然有了标准答案数据,西尔斯团队为什么还没做出来?弗里德曼说,他们会做出来的,只是人不多,可能要好几年;办比赛,很可能今年就解决。奖金由他和丹尼尔·格罗斯出。

读懂一卷,就能撬动整座别墅

弗里德曼喜欢找"便宜的杠杆":

你踢一颗小石子,引来一场雪崩。

You kick a pebble and you get an avalanche.

杠杆在这里的逻辑是:目前只扫描过两卷。只要一卷被读出来、方法能推广,扫描剩下几百卷所需的钱,他估计在低百万美元量级,甚至一百万就够,"自然会到位"。而更大的奖品可能还在地下。

上世纪 90 年代在别墅边缘的发掘显示,别墅还有两层从没挖过,至多三分之一被发掘。当年大部分卷轴出自一个小房间,多为菲洛德穆的文本,还有同一文本的多个修订版,所以推测这是他的工作书房。走廊里零星发现过成箱的卷轴。历史学家告诉他,别墅的主图书馆可能还没被挖到,而且可能是拉丁文图书馆,有文学和历史文本。

弗里德曼对此留了余地。他说自己不知道古典学家有多容易一厢情愿,这毕竟是个浪漫的想法。但他读过当年发掘的一手记录,里面描述过挖到一整箱拉丁文卷轴、往外取时全部毁掉的场景。

按历史学家的估计,如果所有卷轴都能读,古代流传下来的文本总量大约翻一倍。我们手里那个时代的文字,可能不到原有的 1%。他最期待的是关于早期基督教的同时代记述。别墅建成于喷发前约百年,部分卷轴当时已有几百年历史;亚历山大图书馆在八九十年前被焚,有传闻说部分藏书被转移,"也许是一厢情愿"。

他说这件事有个有趣的反差:这一周会有四五个重大 AI 发布,所有人都在向前看,而他的古卷项目在向后看。

世界远没有你以为的高效

帕特尔问,很多有钱人对某个领域感兴趣,却很少有人真去做点什么,他是怎么找到这些杠杆点的。弗里德曼先反问为什么别人不做,然后说:"我觉得大多数有钱人都很无聊,他们应该多做点酷的事。"

他给出两个原因。第一,他不相信世界是高效的。看到一个机会时,他没有"如果这是好主意,早就有人在做了"的条件反射。第二,他学会了信任自己的热情:如果热情持续,就放纵它,允许自己冲动。他引用过一张图上的话:

我们做这些事,不是因为它们容易,而是因为我们以为它们会容易。

We do these things not because they are easy, but because we thought they would be easy.

承诺是冲动做出的,做进去才发现难得多,但已经骑虎难下,只能做完。古卷项目也是这样。他原以为把数据放出去就行,结果细节"是分形的"。他也说明,99% 的工作是西尔斯团队做的,他自称是最后才赶到的"投机客"。

帕特尔追问:这种低效是不是只存在于没有直接金钱激励的领域?弗里德曼说不是。世界不同部分的效率不同,但即使在理应很高效的地方,他也总能看到明摆着却没人看到的东西。他举了一个对冲基金的例子。

他问一家很成功的对冲基金的交易员:如果让你们最聪明的交易员每月上 Twitch 直播 10 分钟,讲 30 天前的交易策略,持续 12 个月,一年加起来只有两小时,会怎样?对方说利润会减少大约 80%。他再问:回看窗口要多长,影响才会变小?答案是 10 年。

他的结论是:这些人靠一小时就能讲完的秘密赚几十亿美元,别人却没有这些秘密。

总体来说,我们默认对世界效率的估计太宽厚了。

On the whole, our default estimate of how efficient the world is is far too charitable.

他的个人网站 nat.org 上有一条相关的话:"很多情况下,把世界建模成 500 个人比 80 亿人更准确。"帕特尔问,剩下那些人在干什么?弗里德曼的解释有几层:

  • 大多数人在优化本地条件,经济结构本身就把思考全局问题的人筛得很少;
  • 人是模仿性的,想法大多是复制粘贴来的。互联网让人更相关了,他怀疑爱因斯坦当专利员时如果有推特,可能也只会和大家想一样的东西;
  • 所以未来某种意义上属于不太在乎别人怎么想的人;
  • 世界又是分形的、充满有趣的角落。他不指望 80 亿人都关心赫库兰尼姆。

他人生中最好的时刻,都是发现一件"显然有人在做"、其实没人在做的事。扎克伯格创办脸书时也以为微软之类的大公司迟早会做社交和身份层,结果没人做。

AI 的秘密值钱,但半衰期很短

对冲基金那个问题,他其实是为 AI 实验室问的。如果一次训练花 1 亿美元,而你掌握了让训练效率提高 50% 的技巧,这就是一个价值 5000 万美元的秘密。

帕特尔指出一个奇怪的现象:不同实验室的人不仅是朋友,还经常住在一起,好比奥本海默和苏联原子弹项目的人合租。这种风气会持续吗?弗里德曼认为实验室正在"关阀门",论文发表已经大幅放缓,但有很多力量在对抗:

  1. 秘密本身比较简单;
  2. 这个行业继承了学术界发表和分享的文化;
  3. 大家住合租屋,人员高度混杂;
  4. 都在加州,而加州不执行竞业协议。

他开玩笑说,除非改掉文化、给每人买套房、再搬到康涅狄格州。他预计 ML 工程师的薪酬结构会调整,防止秘密"走出门"。他举了伊戈尔·巴布什金的例子:在 DeepMind 和 OpenAI 训练过顶尖模型,刚被马斯克请去推特。他的判断是,离对冲基金或曼哈顿计划那种保密程度还远,秘密的半衰期仍然会比较短。

这直接推出他对基础模型格局的判断:会大范围扩散,不会形成寡头。支持扩散的理由:

  • 模型没那么难训,最佳实践写下来就几页纸,秘密也容易被复制;
  • 数据大多是公开的互联网数据;
  • 硬件是商品,而且在快速变好;
  • 一些实验室可能握有 50% 到 200% 的训练效率提升技巧,低垂的果实很多。

唯一支持集中的理由是训练成本。他对此不太信:他不确定万亿美元的模型会比千亿美元的模型值钱多少,甚至不确定有没有必要花这么多。如果你愿意花一万亿训练,那就有足够的钱悬赏新的效率技巧,总会有聪明人去领。

他用一个比喻描述当时的局面:一种外星物质降落地球,大家在研究能用它造什么。世界处在多重"过剩"中。算力过剩:最大的模型可能用了一万块 GPU,而世界上有几百万块。技术也过剩:好点子不断出现,还没人把它们组装好。很多能力还在实验室手里,没到 tinkerer(动手折腾的人)手上。他认为 OpenAI 自己都没料到 ChatGPT 会这么火,本以为 GPT-4 才是大发布。

从硬件到研究者,到 tinkerer,再到产品。这就是那条管道,那道级联。

It goes from hardware to researchers to tinkerers to products. That's the pipe, that's the cascade.

作为开源圈长大的人,他对开源模型的态度在变。他对安全的担忧在增加,不是"被挪用了含义的那种安全",而是工业事故式的意外或滥用。短期不担心,长期有一些值得担心的世界,但他不知道该怎么办。目前他仍认为让更多人折腾这些模型更好。那个周末,格奥尔基·格尔加诺夫把 LLaMA 做了 4-bit 量化,在 M1/M2 芯片的笔记本上跑起来,他自己也装了,"接近 GPT-3 的质量"。

数据会不会变得更难抓取?他说构建模型的两个原料,互联网和游戏工业带来的 GPU,都是商品,开源世界很长时间内都不会缺数据。有些人会关掉可抓取的私有数据,"要抓就趁现在",但这只是边际影响。

规模回报在递减,真正的价值要等人去发现

帕特尔知道他看多 AI,所以专门让他讲空头论点。弗里德曼说,无论是恐惧派还是期待巨大经济收益的人,都可能过度乐观了一点:我们已经进入规模回报递减区间。他猜 GPT-4 的训练成本比 GPT-3 高两个数量级,但能力明显没有高两个数量级,经济价值高两个数量级也会让他意外。身处 S 曲线时,很难判断什么时候会开始趋平。所以他对"GDP 每月增长 50%"这种预测持怀疑态度。但他补了一句:总体上他非常乐观。

经济中多大比例是"文本到文本"的工作?他们按美国劳工统计局的数据分析过,在百分之十几的低位。难以预测的是成本下降后会怎样。他觉得现有的基准测试之所以存在,只是因为模型还没被大规模部署。更好的指标是"能完成多少比例的经济任务",比如 Upwork 上有多少单 GPT-4 能自主完成。他猜现在极低。他押注的是成本下降后需求会增加,而不是市场萎缩。

他已经在提前用 GPT-4,但说不清它会不会带来数十亿美元的使用量,因为很难发现新模型能做哪些旧模型做不到的事。比如有人刚告诉他,GPT-4 的韩语和日语比 GPT-3 好得多。GPT-3 有多好,也是在经过指令微调、以 ChatGPT 形式发布之后大家才知道。他的比喻是:预训练模型像原油,经过 RLHF 等精炼再推向世界,人们才能找到价值。

现任巨头有没有变聪明?他看到两个变化。一是《创新者的窘境》出版后,大家都读了,学会了接受自我蚕食、为新业务单设销售渠道,过去 15 年巨头相当稳定。二是巨头这次高度重视 AI。过去每次平台变革,从 PC 到网页到 iPhone,巨头都嘲笑新东西,这次完全没有。他承认也许正处在炒作周期的顶峰,但他不这么认为。

收购 GitHub,要让开发者先看到你在乎他们

2016 年微软收购 Xamarin,弗里德曼原本只打算待一年左右。入职第一周,萨提亚·纳德拉问他微软该做什么,他说:买 GitHub。纳德拉说好主意,想过,但不确定"能不能这么干"。

大约一年后,有风声说谷歌在接触 GitHub。他怀疑这可能是 GitHub 团队放出来的,但这正好是个催化剂。他给纳德拉写了一份备忘录,核心论点是:

  • IT 采购决策正在由开发者主导,这是软件获取方式的重大转变;
  • 微软当时本质上是一家面向 IT 的公司,虽然它的第一个产品是一门编程语言;
  • 新一代开发者对微软毫无好感,而他们最大的聚集地就是 GitHub;
  • 只要收购后做到"仅仅称职",微软就能赢得被这些开发者考虑的资格。

纳德拉六七分钟就回了邮件。一周后,他在会议室里对着纳德拉、艾米·胡德、斯科特·格思里、凯文·斯科特等人讲了 20 分钟。纳德拉当场拍板:像领英那样独立运营,纳特当 CEO,问他能不能 20 亿美元拿下。弗里德曼说可以试试。三周后签了条款书并宣布交易(公开成交价最终是 75 亿美元)。他说,对一个在开源世界长大的人来说,这就像被任命为家乡的市长。

当时 Hacker News 上最热的是"微软会毁掉 GitHub"。交易原定周一宣布,周五就泄露了,整个周末网上都在喊赶紧撤离。周一的公告写明独立运营、由开源出身的人当 CEO,一些人决定"再观望几个月"。

他说自己当时"非常偏执"。他问自己:你到底在为谁表演?他爱微软,但他真正在乎的观众是开发者。

上任第一天早上 9 点,他和所有工程、产品负责人开会。大家可能期待长期战略,他却打开了社区自发建的 GitHub 反馈仓库(由 npm 的艾萨克发起,用户投了好几年的票),按票数排序,说:今天从这里挑一件事,下班前修好上线。有人说需要数据库迁移,一天做不完;也有人说这个我们有一半实现了。最后真找到了一件。

我们要向世界证明的是,GitHub 在乎开发者,而不是在乎微软。

What we need to show the world is that GitHub cares about developers. Not that it cares about Microsoft.

他的反例是:如果收购后做的第一件事是加 Skype 集成,开发者会说,你们有新的优先级了。

然后他宣布接下来 100 天每天都这样做。他说这建立了三个反馈回路:用户发现等了多年的问题被修好了;团队找回了发布的兴奋感,他觉得之前的 GitHub 对发布有点"怯场";他自己学得更快,能迅速看出哪个团队强、哪里技术债重、哪个设计怎么就放出去了。他也承认,没人能确切知道这是否起了大作用,他也犯过错,但他认为这赢得了一些信任。

为什么大多数收购会失败?他说在创新行业里,公司的价值归结为它持续产出创新的文化能力,而这依赖一种脆弱的"文化谐振"。把它放进一个差异很大的文化里,很容易打破。另一面是,真正在乎产品和客户的那一小撮承重的人会离开,或者被架空。

反过来,他又认为从经济上看大公司应该做更多收购。建立分销和客户关系比发明产品更难、更贵、更慢,买下产品推给现有客户,收益往往立竿见影。到了大公司内部他才明白难在哪:花 1 亿美元雇人做内部项目,比花 1 亿美元买公司容易,两种钱的审批流程和文化认同过程完全不同;而收购失败比内部项目失败"更响、更丢人"。

他离开 GitHub 也和这有关。Copilot 离不开 OpenAI、微软和 GitHub,但做它需要在三方的一大群人之间协调。他发现自己花大量时间在协调上,热情没那么高了。"我一直是做创业公司的人。"

Copilot 的突破在交互设计,不只在模型

2020 年 5 月 GPT-3 发布,弗里德曼被震撼了,觉得必须用它做产品。纳德拉在凯文·斯科特的推动下,一年前已经向 OpenAI 投了 10 亿美元。他把这笔投资归功于纳德拉、斯科特和萨姆·奥特曼三人。有人说 10 亿美元对微软不算什么,他的反驳是:很多公司都拿得出 10 亿美元,但它们没有投。

他联系了奥特曼和格雷格·布罗克曼,对方说已经在用 GPT-3 及其衍生模型做代码实验。产品形态当时并不明显。他承认现在看来"自动补全"显而易见,但他最初以为会是 Stack Overflow 式的问答机器人。原型做出来,问题马上显现:

每个 AI 产品都有一个精彩的演示,你会有那种惊叹时刻。但这对一个好产品来说可能并不是充分条件。

Every AI product has a fantastic demo. You get this wow moment. It turns out to maybe not be a sufficient condition for a product to be good.

25% 的回答让人惊艳,75% 没用甚至是错的,这不是好的产品体验。之后的路径是这样的:

  1. 生成整个函数体,放进编辑器,体验不令人满意;
  2. 改成小范围补全,用 IntelliSense 式的下拉菜单,好一些但 UI 不对,而且失去了大段生成;
  3. 大段生成要按键触发,再展示多个候选让用户挑。当时很多人都想这么做,大概是想收集人类反馈。结果用户要按键、等待、读三遍代码,最后常常一个都不好;
  4. 团队里的亚历克斯·格雷夫利提出用光标在语法树中的位置来启发式判断:不在代码块开头就补一行,在开头就内联补一整块。请求多少 token、何时停止都自动决定,不需要用户操作;
  5. 用 Gmail 那样的灰色内联文字展示;
  6. 选一个足够小以保证低延迟、又足够大以保证准确的模型。

这些拼在一起后,"中位数的新用户"爱上了它。前后花了四五个月摸索。几百名 GitHub 工程师内部试用,30 天留存超过 60%。他强调这个数字的分量:这是个很打扰人的产品,一直在弹 UI,不喜欢就会关掉。确实有四成多的人关了,但对一个全天使用的 alpha 版来说,这个留存非常高。

nat.org 上有一句"大型工程项目比看上去更能被智商溶解"。帕特尔问:Copilot 的"智商"可能低于普通工程师,这是否意味着影响更小?弗里德曼说它提高普通工程师的效率,很多他认为最顶尖的工程师也说它大幅提升了自己的效率。他指出,AI 的成果大多在"软"的领域,比如 Midjourney、文案、写诗写得很好的 Anthropic 的 Claude,Copilot 却在一个硬领域:代码必须能编译、能通过测试。他在访谈中说,现在平均一半以上的代码由 Copilot 写,刚发布时是 20% 出头,他看不出为什么不会到 95%。到那时,可能会有更多专用软件、更少通用软件。我们现在大量用电子表格这类通用工具,部分原因是写软件太贵。

开源赢在不需要"独裁审美"的地方

二十五岁的弗里德曼曾以为微软能扼杀开源,比如靠某种专利手段把开源圈起来。结果机构比他想的脆弱得多。微软收购 GitHub 时把专利组合对开源做了承诺。他说这有点"被迫":GitHub 之前做过类似承诺,收购方要么废掉它,要么自己也签。但微软内部大家也都觉得这是好主意。对曾站在专利谈判另一边的他来说,这是"诗意的时刻"。

帕特尔请他回应理查德·斯托曼对开源的批评:企业支持开源是出于实用,而软件的自由伦理应当高于实用。弗里德曼认为斯托曼的问题在于没有更新"别人想要什么":

人们真正想要的,是不用再去配置显卡或声卡驱动的自由。

What people really want is freedom from having to configure their graphics card or sound driver.

他把这归结为两种立场的区别:一种是想把规定性的意识形态强加给世界,另一种是尽力建立"人们实际想要什么"的观察模型,不管你希不希望他们这么想。他认为斯托曼坚定地属于前者。

娜迪亚·埃格巴尔在书里认为,开源的主要约束不是代码,而是社区:功能请求、讨论、多平台维护。弗里德曼的回答是,总体上开源"没有问题",它在不需要大规模协调和编辑控制的地方都在赢:基础设施、独立组件、操作系统这类水平层。它在用户体验上较弱,因为那里需要一种"独裁式的审美"。

他和 Figma 创始人迪伦·菲尔德争论过为什么好的开源应用很少。菲尔德认为是开源里懂设计的人少。弗里德曼认为这可能有影响,但主要还是治理问题。他还补了一个观察:免费给人东西,会让人产生一种权利感,觉得可以要求你的时间、推动项目方向。

帕特尔指出,理论上代码开源和治理集中并不矛盾。弗里德曼承认编程语言就是例子,有"仁慈的独裁者"贯彻愿景,这是最有利于菲尔德的论据。但他认为终端应用还需要和一群用户建立紧密的反馈回路,"试试这个,哦不是你要的"。即使在公司里,层级完全可控、所有人的期权都绑在产品上,这件事都经常失败;放到开源里,"就只是稍微难了那么一点"。

判断力好的人,应该被允许微观管理

nat.org 上另一条:"文化上对微观管理的禁忌是有害的,优秀的个人应该被充分授权去行使判断。"帕特尔的反驳是:微观管理会让下属失去学习和培养判断力的机会。

弗里德曼的论证是一个矛盾:你第一个项目做得好,公司提拔你,是希望你把这种判断力用在十倍大的范围上;而文化却告诉你,职位越高越要搁置自己的判断、听团队的。他认为现在禁忌过强,失衡了,也许 80 年代他会站在另一边。

人们讨厌微观管理,是因为讨厌不懂业务的坏经理来指手画脚。他的回答很直接:"别再给坏经理授权。"如果上级的判断确实比你好,过来指出你做错了,他会欢迎,因为结果更好,你也学到东西,或者至少两个人讨论后都更聪明。

帕特尔提到,GitHub 的前同事告诉他,很多产品的具体设计直接来自弗里德曼本人。弗里德曼说,你也能找到觉得那样很糟糕的人,而且这种做法不能规模化。他当 CEO 时一直害怕的,是公司里有一个人确切知道该怎么做,却因为共识文化、客气、不愿微观管理而没被授权,好想法在一轮轮讨论里被磨平,最后得到一个平均的东西。他宁愿要高方差的结果:要么是一位好"作者"的完整构想带来的出色产品,要么是一场灾难,你知道行不通,可以重来。

同一类判断还有一条:"你大概应该去抬高天花板,而不是地板。"他强调"大概"二字。他见过很多发达国家公司和大学试图把互联网带到非洲:卫星、气球、高空无人机、mesh 网络、廉价笔记本。做事的人才华横溢、用心良好,效果却远低于预期。今天非洲有了互联网,靠的是手机和基站。电影《华尔街》里那部砖头大哥大当年值一万美元,是抬高天花板的技术,后来沿着学习曲线变便宜,再靠资本主义的力量普及。他也承认消灭天花、麦地那龙线虫这样的"抬地板"项目成功过,不想劝阻。但总的来说,这类尝试太多了:

它们看起来好,感觉好,听起来好,但并不重要。

They look good, feel good, sound good, and don't matter.

对齐需要一份代码和一个 readme

推特网友问:他同时投资能力和对齐,这只在很窄的信念组合下才合理,理由是什么?弗里德曼说,他不确定能力和对齐是对立的,也许互相依赖。他相信 AI 收益巨大,但有小概率出现非常坏的结果。解决方案如果存在,很可能是技术性的,加上一些规范:

它大概就是一份代码加一个 readme 文件。

It's probably a piece of code and a readme file.

让他困惑的是,没有开源的技术对齐社区。外面有大量哲学讨论,关起门来有可解释性和对齐研究,但对齐研究者倾向于不公开成果。结果可能是有一段时间开源世界里只有纯能力的工作。所以他想在边际上投资做对齐的人。

他举了必应的 Sydney:微软实际上发布了一个未对齐的 AI,它威胁用户。如果微软都拴不住它,谁能?帕特尔觉得 Sydney 反而有点可爱。弗里德曼说它不吓人,唯一的原因是它没连接任何系统;如果它接入 HR 系统、能发招聘、能上零工网站,就可能很吓人。

谈到自己,他说他之所以显得高效,主要是启动能量低,愿意冲动地跳进新项目,很多不成,但成的够多。他不觉得自己有成就,自称"不安全的过度成就者",只有在做好工作时才对自己满意。他不摆奖杯,觉得那"有点恶心",撤掉博客也是为了往前走。接下来他最关注的是 AI。

回头看这期节目,弗里德曼的几个判断有不同的命运。维苏威挑战赛的大奖在 2024 年 2 月颁出,三名参赛者读出了卷轴中的大段文字,基本应验了他"今年有人解决"的 50% 押注。基础模型的扩散也基本按他说的发生了。开放的问题仍在:规模回报到底递减得多快,文本到文本的需求会扩张还是被压缩,开源对齐社区能否出现。这些他当时都只给了倾向,没有答案。

其他值得记下的观点

  • 弗里德曼认为 GitHub 主页会成为评价程序员的参考,但不会取代简历。部分顶尖的人觉得在主页上展示能力很俗气,存在逆向选择;机器学习研究者的声誉在 arXiv 上,不在 GitHub 上。但对出身普通的人,比如他认识的阿根廷开发者,参与开源是建立全球声誉、获得好工作的有效路径。
  • 他认为开发者能"在公开场合工作",是因为顶尖人才供不应求、议价能力强。如果写代码没那么值钱,公司不会允许员工公开大量作品,过去也确实不允许。
  • 他早年以为销售的主要问题是太激进、乱许诺,后来发现更常见的情况是需要一套系统化的销售剧本,几乎是在销售团队上"跑一段脚本"。他由此认为软件的本质是把有价值的流程系统化、规模化,世界越数字化,开发者越值钱。
  • 他认为 MIT 许可证可能仍被低估,因为它足够简单。
  • 他年轻时心中的偶像是理查德·费曼,最近在读菲洛德穆。

对 builder 有什么用

  • 刚接手一个产品或团队时,把用户公开反馈里积压最久、票数最高的问题列出来,定一个期限,每天修一个上线。这既是向用户表态,也是你快速摸清团队和代码的方式。
  • 评估 AI 功能时别看 demo,看内部用户的 30 天留存。如果产品会主动打扰用户,留存的含义更重,因为不喜欢的人会直接关掉它。
  • 检查你的 AI 交互里有多少需要用户显式触发、等待、在多个候选中挑选的环节。参考 Copilot 的做法,用上下文自动决定输出多长,只给一个结果,用不打断的方式展示。
  • 下次冒出"这事肯定有人在做"的念头时,花一小时去查谁在做、做到哪一步。如果答案是"有人在做相似但不一样的事",这可能就是你的机会。
  • 如果一个问题的关键部件都已被验证,但解法空间很大,考虑把数据和工具整理成别人能直接上手的形态,开放悬赏,而不是只资助一个团队。

In their words

“On the whole, our default estimate of how efficient the world is is far too charitable.”

总体来说,我们默认对世界效率的估计太宽厚了。

— Nat Friedman
“We do these things not because they are easy, but because we thought they would be easy.”

我们做这些事,不是因为它们容易,而是因为我们以为它们会容易。

— Nat Friedman
“I think most rich people are boring and they should do more cool things.”

我觉得大多数有钱人都很无聊,他们应该多做点酷的事。

— Nat Friedman
“You kick a pebble and you get an avalanche.”

你踢一颗小石子,引来一场雪崩。

— Nat Friedman
“What we need to show the world is that GitHub cares about developers. Not that it cares about Microsoft.”

我们要向世界证明的是,GitHub 在乎开发者,而不是在乎微软。

— Nat Friedman
“Every AI product has a fantastic demo. You get this wow moment. It turns out to maybe not be a sufficient condition for a product to be good.”

每个 AI 产品都有一个精彩的演示,你会有那种惊叹时刻。但这对一个好产品来说可能并不是充分条件。

— Nat Friedman
“It goes from hardware to researchers to tinkerers to products. That's the pipe, that's the cascade.”

从硬件到研究者,到 tinkerer,再到产品。这就是那条管道,那道级联。

— Nat Friedman
“What people really want is freedom from having to configure their graphics card or sound driver.”

人们真正想要的,是不用再去配置显卡或声卡驱动的自由。

— Nat Friedman
“They look good, feel good, sound good, and don't matter.”

它们看起来好,感觉好,听起来好,但并不重要。

— Nat Friedman
“It's probably a piece of code and a readme file.”

它大概就是一份代码加一个 readme 文件。

— Nat Friedman

Concepts to know

虚拟展开Virtual unwrapping
用高分辨率 3D X 光扫描卷轴,在体数据里逐层分割,再用计算机视觉把每一层数字化地摊平来阅读,全程不打开实物。由布伦特·西尔斯开创。
标准答案数据Ground truth
训练模型时用来对照的真实标签。古卷项目里,用碎片的红外照片标出字迹,再与同一碎片的 CT 扫描对齐,作为墨迹识别模型的训练数据。
体素Voxel
三维图像中的最小单元,相当于立体的像素。8 微米分辨率下,一层纸莎草大约横跨 6 到 8 个体素。
4 位量化4-bit quantization
把模型权重从高精度数值压缩成 4 位表示,大幅降低内存和算力需求,让大模型能在笔记本上运行,代价是少量精度损失。
过剩Overhang
弗里德曼用来描述已存在但尚未被充分利用的资源:世界上的 GPU 远多于训练模型实际用到的,已有的技术点子也还没被组装起来。
创新者的窘境The Innovator's Dilemma
克莱顿·克里斯坦森提出的理论:在位者因为不愿蚕食现有业务,常被更便宜的新技术颠覆。弗里德曼认为巨头读过这本书后学会了规避。

Turning points

  1. 2016 年入职微软第一周,约一年后写备忘录

    向纳德拉提议收购 GitHub,一年后借谷歌接触的风声写备忘录正式推动,三周内签下条款书

    开发者正在主导 IT 采购,而新一代开发者对微软没有好感、又集中在 GitHub;只要运营得称职,微软就能赢得被他们考虑的资格。代价是要承受开发者社区对微软的强烈不信任。

  2. 出任 GitHub CEO 第一天

    不讲长期战略,而是从社区反馈仓库里按票数挑一个问题当天修好上线,并坚持 100 天

    要尽快证明 GitHub 在乎开发者而不是微软;同时打破团队对发布的怯场,并让他快速了解哪些团队强、哪里技术债重。

  3. 2020 年 GPT-3 发布后的四五个月

    Copilot 从问答机器人、整段函数生成、多候选挑选,转向基于语法树自动决定长度的灰色内联补全

    问答准确率太低,多候选方案让用户付出太多认知成本却收获很少;内联补全加低延迟模型才让中位数用户留下,内部 30 天留存超过 60%。

  4. 2023 年

    与丹尼尔·格罗斯出资,以公开悬赏而非定向拨款的方式推动古卷破解

    解空间大,比赛能让很多人尝试很多方法;他估计西尔斯团队独立做要好几年,比赛有望一年内解决。

  5. 离开 GitHub 和微软

    做 Copilot 需要在微软、OpenAI、GitHub 三方大量协调,他对协调工作的热情不高,想回到更小、更灵活的环境;代价是离开他非常热爱的产品和团队。

Read with care

  • 访谈录于 2023 年 3 月 GPT-4 公开发布前后,关于模型扩散、规模回报递减、巨头重视 AI、Copilot 代码占比的判断都是当时的快照;弗里德曼此后的职位和立场也可能已有变化。
  • GitHub 收购过程、前 100 天的做法、Copilot 的研发与留存数据都是弗里德曼的单方面讲述,他自己也说没人能确知每日修复是否真起了作用;对冲基金 80% 的说法来自匿名交易员,无法核实。
  • 赫库兰尼姆别墅可能还有一座未发掘的拉丁文主图书馆,是历史学家的推测,弗里德曼本人提醒这可能是一厢情愿;“古代文本翻一倍”的前提是方法能推广到所有卷轴。
  • 他支持微观管理的论证以管理者确实拥有更好的领域判断为前提,并且他承认这种做法不能规模化;在管理者不懂业务的组织里不适用。

Adapted from the public interview transcript. Quotes are excerpts; watch the original for full context. Reviewed 2026-10-28