
20.☢️AI时代的奥本海默困境:明知可能毁灭人类,为何还要继续
10 月 10 日 · 1 小时 10 分

技术退化 | 金酒半杯串台 | 古法编程 | Claude Code | desirable difficulty | 3Blue1Brown | Jonathan Blow 吹哥 | 沉星之序 | LLMs can't jump | 溯因推理 | 爱因斯坦 | 登月 | F-1 发动机 | 比特翻转 | 刘胜与
🎧 本期简介
某一天公司内网出了故障,Claude Code、Cursor 这些 AI 编程工具全都用不了。程序员们写代码写得磕磕绊绊,最后干脆一起挤到茶水间,“像一群需要钻木取火的现代人”。CL 也有过类似的经历:新模型刚出来时用得太猛,一两天就把额度用光了,等额度的时候才发现自己不会干活了,电脑里连代码编辑器都没装。AI 让我们更能干,也让我们越来越离不开它。如果每个人都在不知不觉中丢掉一点能力,整个社会会不会出现技术退步?
这是《跨域请求》和《朗姆酒瓶》《金酒半杯》两位主播 Rum、Gin 的串台。这个问题的起点,是《金酒半杯》聊《沉星之序》的那期节目:游戏设计师 Jonathan Blow(人称“吹哥”)十多年前在一次采访里谈到了技术退步和文明衰落。
我们先从教育聊起。学生用 AI 把作业做到满分,到了考试却问题百出;金酒半杯家五岁的孩子遇到问题,已经会说“你们去帮我问一下 AI”。学习被 AI 变得太丝滑,那些卡住、反复试错、睡一觉突然想通的 Aha moment 正在消失。可是困难本身并不值得追求,关键是这个困难对学习者有没有益处。我们聊了 AI 能怎样帮每个人量身设计难度梯度,聊了吹哥的游戏怎样不靠教程就让玩家自己摸清规则,设定简单但是同样上头(中间聊游戏聊飞了,快进掉了),也聊了 3Blue1Brown 的作者 Grant Sanderson 的观点:今天的老师,要做一个好的策展人。
所以:AI 自己有创造力吗?人类可以只保留创造力吗?Google DeepMind 的一篇 ICML 论文认为,大模型已经很擅长归纳和演绎,缺的是“溯因”,也就是凭空提出一个前所未有的假设。CL 借论文里的案例,讲了爱因斯坦怎样从“一个自由落体的人”出发,经过封闭电梯里的思想实验,推出光在引力场中会拐弯,最后由日全食观测验证了猜想。
最后把视角放大到整个系统。AI 正在虹吸全世界的人才和资金,会不会有一些非常有潜力的研究方向,因为得不到资源而永远失去了被发现的可能性?而今天的 AI 底座技术,神经网络,本身就是一个很好的例子!因为它曾是被冷落了几十年的“旁门左道”。人类在 1969 年登上月球,今天想重返月球却困难重重,因为当年靠上千次试验攒下的经验,随着生产线关闭和工程师退休一起消失了。AI agent 帮我们绕过了依赖冲突,冲突本身却还埋在底下;当年 Jeff Dean 排查谷歌索引故障时怀疑到硬件头上,AI 会想到这一步吗?节目在意义感的问题上收尾:一位身处 AI 浪潮中心的研究者朋友感到疲惫和迷茫,DeepSeek 的算子工程师刘胜与则担心,“静心写上一下午算子的清欢”可能就要成为绝唱。
🧩 概念解释
提到的播客
《机核游戏频道》:关于游戏的信仰-Jonathan blow的创作哲学(重轻老师讲吹哥的那期)
人物与节目
张伟:《朗姆酒瓶》EP12《寻找张伟》的主角,和卷积神经网络和反向传播的早期研究者,甚至他的发现早于在这个领域更有名的杨立昆。
Jonathan Blow(吹哥):独立游戏设计师,代表作有 Braid(《时空幻境》)、The Witness(《见证者》),新作是《沉星之序》。他十多年前在一次采访中谈到技术退步和文明衰落,这是本期话题的起点。
Grant Sanderson / 3Blue1Brown(三蓝一棕):Grant Sanderson 是数学科普频道 3Blue1Brown 的作者,用动画讲解微积分、线性代数、神经网络等内容,很多大学老师会直接把他的视频放进课程材料。本期引用了他的观点:老师要做一个好的策展人。
孙宇晨(孙哥)/ 邵艾伦:孙宇晨在邵艾伦一场四个多小时的采访里说,人人都可以进入数学领域、人人都能拿诺奖。
Tom Zahavy:Google DeepMind 研究员,ICML 2026 立场论文《Position: LLMs can't jump》的作者,本期关于 AI 创造力的讨论就围绕这篇论文展开。
爱因斯坦:本期讲他发展广义相对论的经过。他把“一个人从高处自由落下时感觉不到自己的重量”称为一生中最快乐的想法,这个念头最后引出了等效原理和光线弯曲。
Geoffrey Hinton(杰弗里·辛顿):神经网络被冷落的几十年里一直坚持研究的学者之一,2012 年和学生用 AlexNet 赢得 ImageNet 比赛。本期还提到他转述的一次经历:AI 告诉他,堆肥本质上和核裂变一样是链式反应。
杨立昆(Yann LeCun):和 Hinton 一样,在神经网络被冷落的年代坚持研究的学者之一。
Marvin Minsky(马文·明斯基):人工智能先驱,1969 年出版的《感知机》(Perceptrons)分析了当时神经网络的局限,此后这一方向长期遇冷。
李飞飞:斯坦福大学教授,主导建立了大型图像数据集 ImageNet 和相关比赛,为神经网络在 2012 年的突破提供了数据基础。
Jeff Dean / Sanjay Ghemawat:谷歌早期的两位传奇工程师。谷歌刚创业时搜索索引出了问题,两人一路排查到硬件层面,发现了比特翻转。
刘胜与(intlsy):DeepSeek 的算子工程师,文章《我不得不把才华埋葬在昨天》的作者。本期两次提到这篇文章:一次讲大学生做作业时用不用 AI 的两难,一次讲写算子的乐趣正在消失。
晓婷:《小孩发射计划》主播,CL 的好友,《跨域请求》EP4 的嘉宾。也和金酒半杯讨论过这个话题。当时她觉得大家有点杞人忧天:新技术出现时总有人担心退化,但人类总能适应。
游戏
《沉星之序》(Order of the Sinking Star):Jonathan Blow 的新作解谜游戏。本期用它讨论难度梯度和“不靠教程也能让人学会”的关卡设计。
Braid(《时空幻境》):Jonathan Blow 早年的解谜游戏,把“时间可以倒流、流速可以不均匀”做成了游戏机制。本期拿它的设计思路和爱因斯坦的思想实验作对比。
技术与用语
Vibe Coding / Agentic Coding:用自然语言描述需求,让 AI 或 AI agent 自己写代码、调试、跑通程序;auto mode 指让 agent 自动执行,人只看它最后的总结。
古法编程:网络戏称,指不借助 AI、自己一行行写代码。
有益的困难(Desirable Difficulty):学习心理学里的概念,指学习时适度的困难反而能让理解和记忆更牢固;本期强调,关键是这个困难对学习者有益,不是越难越好。
反向传播 / 链式法则:训练神经网络的基本方法。先算出预测和真实结果之间的误差,再用微积分里的链式法则从输出层一层层往回算出每个参数该怎么调,反复迭代,让误差越来越小。
归纳、演绎、溯因(Abduction):归纳是从大量数据里总结规律,演绎是从已有公理推出结论,溯因是为解释现象提出一个全新的假设。论文认为大模型擅长前两种,缺的是第三种。
等效原理:在封闭的电梯里,人无法分辨自己是在地面上静止,还是在太空中加速上升。爱因斯坦由此推断,引力和加速度的效果是一样的。
祝融星(Vulcan):19 世纪天文学家为解释水星轨道的偏差而假设的一颗行星,后来被证明并不存在。本期用它说明:遇到解释不了的 bug,人们更常见的做法是打个补丁,而不是像爱因斯坦那样提出全新的框架。
比特翻转(Bit Flip):计算机里存储的 0 意外变成 1,或 1 变成 0;宇宙射线、硬件老化都可能造成这种错误,程序逻辑没错,结果也可能出错。
RSI(递归自我改进):让 AI 参与训练和改进下一代 AI。本期金酒半杯提到自己做的小型 RSI 实验:AI 一旦找到看似有潜力的方向,就容易陷入其中,像掉进一个“吸引子”。
范式转换:科学哲学家库恩提出的概念,指科学界整体换掉原来的理论框架,比如从牛顿力学到相对论。本期认为,AI 擅长在现有范式里优化,还没有表现出推动范式转换的能力。
感知机 / SVM / ImageNet / AlexNet:感知机是最早的单层神经网络;SVM(支持向量机)是神经网络遇冷时期更受欢迎的一类机器学习方法,数学上更优雅、结果也更有保障;ImageNet 是大型图像识别数据集及其比赛;AlexNet 是 2012 年在比赛中大幅领先、让神经网络重新受到重视的模型。
F-1 发动机 / 土星五号:土星五号是把阿波罗宇航员送上月球的运载火箭,F-1 是它第一级使用的发动机。2013 年,NASA 工程师重新对留存的 F-1 发动机部件做点火测试,想弄清楚当年是怎么造出来的。
隐性知识:只能在实践中积累、很难完整写进文档的经验。本期认为,这正是登月技术失传的原因。
屎山雕花:网络戏称,在本来就混乱的代码(“屎山”)上继续做精细修饰,底下的问题却没有解决。
🔁 提到的往期节目
⏱️ 章节时间戳
开场
CL 开场:这期请来《朗姆酒瓶》和《金酒半杯》的两位主播 Rum 和 Gin,一起聊 AI 时代的技术退步
跨域请求和金酒半杯再次串台:从 Jonathan Blow 谈技术退步的采访说起,AI 让每个人更能干,会不会也让整个社会的技术退步?
公司内网故障,AI 编程工具全挂,程序员只能聚在茶水间;CL 用光额度后才发现自己不会干活,电脑里连代码编辑器都没有
不爱动脑子:查天气这种十几秒的小事也下意识去问 AI,已经形成了路径依赖
第一部分:AI 越帮越多,人还跟得上吗
用 agent 做了一个月的项目,自己已经说不清它是怎么运作的:以播客 agent 为例,一条条看似合理的规则如何叠成互相冲突的屎山
是人的记忆不够长,还是 AI 产出太快、人消化不过来?遇到这种情况,我们也会怀疑是不是自己不会用 AI
用 AI 做原型只要两三个晚上,做成可以长期维护的产品却越来越没耐心,电脑里攒了一堆原型
第二部分:AI 时代的教育
我们经历过前 AI 时代,现在的大学生呢?刘胜与文章里的作业难题:自己苦做拿不到满分,交给 AI 几分钟就满分
金酒半杯在大学修编程课:五位老师对 AI 的态度从鼓励到禁止,各不相同;MIT 的报告说靠检测禁用 AI 行不通
AI 原生的一代:五岁的孩子听 ChatGPT 讲睡前故事,遇到问题说“你们去问 AI”,AI 能耐心回答所有“为什么”
顶尖大学的学生作业表现变好、考试却一塌糊涂:AI 把学习变得太丝滑,卡住之后想通的“啊哈时刻”没了
什么是“有益的困难”:一门贝叶斯统计课如何重塑了一个人看问题的方式
困难本身不是目的:AI 可以为每个学生定制刚好够得着的难度梯度,就像刷题时只挑比自己难一点的题
教育和效率是两码事:效率要的是直接拿到结果,学习却要一点点留在脑子里,比如背书后睡一觉再复盘
第三部分:老师要怎么教
老师到底该怎么教?先从吹哥的游戏说起:它故意让玩家多吃点苦头,金酒半杯和 CL 都在玩《沉星之序》(打到哪一关的讨论已快进)
教的内容要从“知识清单”变成“知识骨架”:模型年年变,反向传播背后的链式法则却能迁移到很多地方
能不能把反向传播做成一关关的游戏?金酒半杯设计中的齿轮原型:不先讲公式,先让学生玩出直觉
3Blue1Brown 的 Grant Sanderson 说,AI 时代的老师要做好策展人:从海量资料里选什么、按什么顺序讲出一条线
AI 攻破数学难题之后,Grant Sanderson 出视频谈数学爱好者该怎么用好 AI;孙宇晨也说人人都能拿诺奖
《沉星之序》也是一种策展:不设新手村,规则简单却设计精妙,解开谜题时的啊哈时刻不同于刷短视频的多巴胺
鼓励学生大量用 AI 做项目,但验收要改成当面展示和答辩;学生自己也要学会策展
希望孩子保留好奇心和创造力;晓婷曾觉得我们杞人忧天,人类总能适应新技术,而 AI 也还碰不到嗅觉、触觉这些具身体验
第四部分:AI 有没有创造力
论文《Position: LLMs can't jump》:大模型已经擅长归纳和演绎,缺的是提出全新假设的“溯因”
爱因斯坦“一生中最快乐的想法”:从一个自由落体的人,到封闭电梯里的四个思想实验,推出等效原理
从电梯里的一束激光推出光会在引力场中弯曲,再到 1919 年日全食时观测星光的偏移来验证
这一整套推理的起点无法从过去的经验推导出来,这就是 AI 还做不到的“溯因”
反方意见:AI 告诉 Hinton,堆肥和核裂变一样是链式反应,AI 也许能做到小小的跳跃
吹哥设计 Braid 的思路像爱因斯坦的思想实验:现在 AI 做不出这样的游戏,十年后呢?
“把知识交给 AI,人只保留创造力”是空中楼阁:创造力是知识积累过程中附带的奖励
金酒半杯的小型 RSI 实验:AI 一旦找到有潜力的方向就停不下来,很难跳出现有范式
第五部分:资源虹吸与技术失传
AI 虹吸全社会的资源,不成熟的探索方向可能就此被淘汰;OpenAI 测试中的大批 AI 智能体入侵 Hugging Face,是跳出了框框,还是掉进了更大的吸引子?
最好的例子就是 AI 自己:神经网络 1943 年就被提出,1969 年《感知机》之后长期遇冷
金酒半杯讲解反向传播:多层神经网络怎样根据误差一层层调整权重
神经网络被 SVM 压过的年代,Hinton、杨立昆等少数人坚持下来,直到 2012 年 AlexNet 在 ImageNet 比赛中大幅领先
今天会不会也有方向处在当年神经网络的位置?毕达哥拉斯学派与根号二:科技树点错了,可能就再也回不去
登月技术为什么失传:1972 年阿波罗计划结束后,人类半个多世纪没再登月;2013 年 NASA 工程师重新给 F-1 发动机点火测试
当年靠上千次试验找到的工程方案是隐性知识,生产线关闭、工程师退休之后,整套能力就没了
回到 AI:agent 一个晚上就把程序跑通,可依赖冲突只是被绕了过去,我们正在一个光滑的表面上滑行
论文里的水星轨道:19 世纪的科学家假设存在祝融星来打补丁,爱因斯坦却提出了新框架;AI agent 大概率也只会打补丁
谷歌早期的索引故障:Jeff Dean 和 Sanjay 怀疑到硬件头上,发现了比特翻转,再用软件兜底;AI 会这样想吗?
结尾:人的意义感
比技术退步更让人在意的,是 AI 时代人的意义感:一位前沿 AI 研究者朋友对自己能否写得比 AI 好失去了信心,也被高频的新消息弄得疲惫不堪
越靠近 AI 风暴中心,感受到的冲击越大:数学家道心破碎,刘胜与写下“静心写一下午算子的清欢”可能成为绝唱
CL 收尾:别让“反正有 AI”变成习惯,给自己留一点磕磕绊绊的时间;留给评论区的问题:有什么事以前自己能做,现在离开 AI 反而不会了?
📚 参考资料
AI 与创造力
教育
神经网络的冷门年代
登月技术
🖼️ 配图

图 1|电梯里的等效原理:左边是停在地球上的电梯,右边是在太空中以 g 向上加速的电梯,电梯里的人分不出自己在哪一边。这是论文《Position: LLMs can't jump》的插图(论文注明由 AI 生成),对应节目里 CL 讲的电梯思想实验。来源:Tom Zahavy, Position: LLMs can't jump(PMLR)。

图 2|1919 年 5 月 29 日日全食:观测队在巴西索布拉尔拍下的底片,日冕周围的短横线标出了背景恒星的位置。比较这些星星和平时的位置,就能测出星光经过太阳附近时偏折了多少。来源:F. W. Dyson, A. S. Eddington, C. Davidson(1920),经 Wikimedia Commons。

图 3|2013 年重新点火的 F-1:NASA 马歇尔航天中心在 2013 年 2 月 14 日试车的 F-1 发动机燃气发生器。当年的图纸和实物都还在,工程师仍要把部件拿出来重新点火测试,才能弄清它到底是怎么工作的。来源:NASA Image and Video Library。
💬 一起同行
欢迎加入听友群~
加微信 "cliu21",备注“听友”。
群里会分享我自己和大家在用的 AI 工作流和资讯,希望能让AI 真正解决大家的问题。
也欢迎来聊天、吐槽、给节目提建议。
说明里标出的时间点,点一下跳过去
AI 从整集转写里归纳的,不是节目方的宣传语
把爱因斯坦从自由落体念头到1919年日全食验证的完整推理链讲透了,也讲清了AI为何难做这种跳跃。
主播复盘自己给播客搭agent时几十个markdown协议互相冲突、分不清原设计与补丁的一手经验。
念出《我不得不把才华埋葬》里那句「精心写上一下午算子的清欢,可能会在这个夏天成为绝唱」。
「今日发现」选中这一期的理由
三个主播从公司AI工具集体断供那天聊起——有人不会写代码,有人干脆放弃,全组聚在咖啡间像被要求钻木取火。节目把这种日常焦虑一路推到爱因斯坦:一个自由落体的人如何变成等效原理,再变成日全食拍下的星光偏移;又用阿波罗F-1发动机和谷歌的比特翻转说明,技术真的会失传。中间关于「有益的困难」和老师该做策展人的讨论,对带娃的人尤其扎心。
由 AI 从整集转写生成,是创作者说明之外的补充
三位主播从一次公司AI断供聊起:AI编程工具失效后,工程师们发现自己既不会写代码,也看不懂自己用agent搭起来的项目。话题延伸到教育——desirable difficulty、个性化难度梯度、老师作为策展人、MIT报告建议的验收方式改革;再进入AI能否完成爱因斯坦式「溯因跳跃」的讨论,借《LLMs can't jump》复述等效原理的诞生链路;最后以登月技术失传、谷歌比特翻转两个案例,讨论技术退化与隐性知识的流失,并落到AI从业者的意义感危机。
点一章从那里开始播 · 与上面创作者标的时间点各自独立
串台缘起:AI越好用,人越笨?
主播交代本期问题:AI生产力爆炸的同时,人是否在悄悄丧失能力,乃至引发社会性技术退步。话题由《沉星之序》创作者Jonathan Blow关于文明退步的旧访谈引出。
断供那天:不会写代码,也不会查天气
公司内网故障导致AI编程工具全部失效,工程师们聚到咖啡间像被要求钻木取火。主播们聊到review代码退化为只看summary、查天气也要问AI的路径依赖。
长线项目为何变得不可追溯
用agentic coding做一个月后,项目内部逻辑无法trace,规则层层叠加互相冲突。主播用「给播客做agent」的markdown协议堆叠举例,指出AI产出速度与人的理解速度存在速度差。
原型很容易,产品做不出来
两三个晚上能搓出prototype,却越来越没有耐心把它做成可维护的产品。话题转向没有前AI时代训练的年轻人:作业交给AI能拿高分,代价是工程能力严重不足。
desirable difficulty:学习需要摩擦力
不同老师对AI的态度分化;MIT报告主张规划使用环节而非检测。主播以学贝叶斯、线性代数的卡点经验说明:有益的困难留下的认知牢固且可迁移,AI让学习过于丝滑反而留不下东西。
个性化难度梯度与「策展人」老师
主播提出用AI为每个学生设计恰好高一点点的难度梯度,类比刷算法题只挑战高百分之十的题目。核心判断:教育和效率是两码事,教育要人在大脑里留下东西。
知识骨架、3Blue1Brown与策展式教学
教育内容应从知识清单转向知识骨架,如反向传播与链式法则。主播介绍Grant Sanderson的动画教学与其「老师应做策展人」的观点,并设想用齿轮系统讲反向传播。
从游戏到验收:教育该怎么重设计
以《沉星之序》不做新手引导却让人产生aha moment为例,说明好的策展如何带来启发。落到具体建议:鼓励学生大量用AI,但验收改为面对面presentation、答辩式追问与作品集。
AI能跳跃吗:归纳、演绎与溯因
主播提出AI缺乏具身感知,随后引入论文《LLMs can't jump》:归纳与演绎AI很强,第三种溯因推理——凭空提出无先验的假设——才是难点。
爱因斯坦的电梯:一个假设如何长成理论
完整复述自由落体念头、四组电梯场景、等效原理、光在加速电梯中偏折,以及1919年日全食观测验证的链路,说明溯因推理如何从零生出新框架。
小跳跃与范式转换
主播以Hinton的堆肥类比核裂变说明AI或能完成小跳跃,但难以跳出范式。讨论AI容易陷入局部最优的attractor,以及资源虹吸可能让未成熟方向失去机会。
神经网络从旁门左道到武林盟主
回溯神经网络自1943年提出、1969年《感知机》打击、八十年代反向传播突破、被SVM压制,到2012年ImageNet夺冠的历程,追问今天是否还有别的方向正因资源倾斜而永久失去被发现的机会。
登月技术为何失传
阿波罗计划结束后半个世纪无人登月,2013年NASA重测F-1发动机却发现整套体系不在了。燃烧不稳定的经验是无法记录的隐性知识。类比今天agent绕过依赖冲突,只留光滑表面。
水星轨道与谷歌的比特翻转
爱因斯坦没有给水星轨道打补丁而是重构框架;谷歌早期索引过期,Jeff Dean反直觉地怀疑硬件,查出宇宙射线导致的比特翻转,并在算法层兜底。
意义感:靠近风暴中心的人最疲惫
一位资深AI研究者朋友对AI写得比自己好已无信心,每天被迭代速度轰炸而疲惫,结论是让孩子学会玩。主播以《我不得不把才华埋葬》中「精心写上一下午算子的清欢」作结,呼吁给自己留一点磕绊的时间。

20.☢️AI时代的奥本海默困境:明知可能毁灭人类,为何还要继续
10 月 10 日 · 1 小时 10 分

19.💻行走的Google技术史Jeff Dean:传奇程序员的告别与远征
9 月 8 日 · 1 小时 06 分

18.🏭AI会催生“永久底层阶级”?去工业革命历史中找找答案
8 月 24 日 · 53 分钟

17.苹果被塔塔"开源":16年前报警抄家,这次为何一声不吭?
7 月 26 日 · 41 分钟

跨域请求 · 10 月 29 日 · 1 小时 25 分
技术退化 | 金酒半杯串台 | 古法编程 | Claude Code | desirable difficulty | 3Blue1Brown | Jonathan Blow 吹哥 | 沉星之序 | LLMs can't jump | 溯因推理 | 爱因斯坦 | 登月 | F-1 发动机 | 比特翻转 | 刘胜与
🎧 本期简介
某一天公司内网出了故障,Claude Code、Cursor 这些 AI 编程工具全都用不了。程序员们写代码写得磕磕绊绊,最后干脆一起挤到茶水间,“像一群需要钻木取火的现代人”。CL 也有过类似的经历:新模型刚出来时用得太猛,一两天就把额度用光了,等额度的时候才发现自己不会干活了,电脑里连代码编辑器都没装。AI 让我们更能干,也让我们越来越离不开它。如果每个人都在不知不觉中丢掉一点能力,整个社会会不会出现技术退步?
这是《跨域请求》和《朗姆酒瓶》《金酒半杯》两位主播 Rum、Gin 的串台。这个问题的起点,是《金酒半杯》聊《沉星之序》的那期节目:游戏设计师 Jonathan Blow(人称“吹哥”)十多年前在一次采访里谈到了技术退步和文明衰落。
我们先从教育聊起。学生用 AI 把作业做到满分,到了考试却问题百出;金酒半杯家五岁的孩子遇到问题,已经会说“你们去帮我问一下 AI”。学习被 AI 变得太丝滑,那些卡住、反复试错、睡一觉突然想通的 Aha moment 正在消失。可是困难本身并不值得追求,关键是这个困难对学习者有没有益处。我们聊了 AI 能怎样帮每个人量身设计难度梯度,聊了吹哥的游戏怎样不靠教程就让玩家自己摸清规则,设定简单但是同样上头(中间聊游戏聊飞了,快进掉了),也聊了 3Blue1Brown 的作者 Grant Sanderson 的观点:今天的老师,要做一个好的策展人。
所以:AI 自己有创造力吗?人类可以只保留创造力吗?Google DeepMind 的一篇 ICML 论文认为,大模型已经很擅长归纳和演绎,缺的是“溯因”,也就是凭空提出一个前所未有的假设。CL 借论文里的案例,讲了爱因斯坦怎样从“一个自由落体的人”出发,经过封闭电梯里的思想实验,推出光在引力场中会拐弯,最后由日全食观测验证了猜想。
最后把视角放大到整个系统。AI 正在虹吸全世界的人才和资金,会不会有一些非常有潜力的研究方向,因为得不到资源而永远失去了被发现的可能性?而今天的 AI 底座技术,神经网络,本身就是一个很好的例子!因为它曾是被冷落了几十年的“旁门左道”。人类在 1969 年登上月球,今天想重返月球却困难重重,因为当年靠上千次试验攒下的经验,随着生产线关闭和工程师退休一起消失了。AI agent 帮我们绕过了依赖冲突,冲突本身却还埋在底下;当年 Jeff Dean 排查谷歌索引故障时怀疑到硬件头上,AI 会想到这一步吗?节目在意义感的问题上收尾:一位身处 AI 浪潮中心的研究者朋友感到疲惫和迷茫,DeepSeek 的算子工程师刘胜与则担心,“静心写上一下午算子的清欢”可能就要成为绝唱。
🧩 概念解释
提到的播客
《机核游戏频道》:关于游戏的信仰-Jonathan blow的创作哲学(重轻老师讲吹哥的那期)
人物与节目
张伟:《朗姆酒瓶》EP12《寻找张伟》的主角,和卷积神经网络和反向传播的早期研究者,甚至他的发现早于在这个领域更有名的杨立昆。
Jonathan Blow(吹哥):独立游戏设计师,代表作有 Braid(《时空幻境》)、The Witness(《见证者》),新作是《沉星之序》。他十多年前在一次采访中谈到技术退步和文明衰落,这是本期话题的起点。
Grant Sanderson / 3Blue1Brown(三蓝一棕):Grant Sanderson 是数学科普频道 3Blue1Brown 的作者,用动画讲解微积分、线性代数、神经网络等内容,很多大学老师会直接把他的视频放进课程材料。本期引用了他的观点:老师要做一个好的策展人。
孙宇晨(孙哥)/ 邵艾伦:孙宇晨在邵艾伦一场四个多小时的采访里说,人人都可以进入数学领域、人人都能拿诺奖。
Tom Zahavy:Google DeepMind 研究员,ICML 2026 立场论文《Position: LLMs can't jump》的作者,本期关于 AI 创造力的讨论就围绕这篇论文展开。
爱因斯坦:本期讲他发展广义相对论的经过。他把“一个人从高处自由落下时感觉不到自己的重量”称为一生中最快乐的想法,这个念头最后引出了等效原理和光线弯曲。
Geoffrey Hinton(杰弗里·辛顿):神经网络被冷落的几十年里一直坚持研究的学者之一,2012 年和学生用 AlexNet 赢得 ImageNet 比赛。本期还提到他转述的一次经历:AI 告诉他,堆肥本质上和核裂变一样是链式反应。
杨立昆(Yann LeCun):和 Hinton 一样,在神经网络被冷落的年代坚持研究的学者之一。
Marvin Minsky(马文·明斯基):人工智能先驱,1969 年出版的《感知机》(Perceptrons)分析了当时神经网络的局限,此后这一方向长期遇冷。
李飞飞:斯坦福大学教授,主导建立了大型图像数据集 ImageNet 和相关比赛,为神经网络在 2012 年的突破提供了数据基础。
Jeff Dean / Sanjay Ghemawat:谷歌早期的两位传奇工程师。谷歌刚创业时搜索索引出了问题,两人一路排查到硬件层面,发现了比特翻转。
刘胜与(intlsy):DeepSeek 的算子工程师,文章《我不得不把才华埋葬在昨天》的作者。本期两次提到这篇文章:一次讲大学生做作业时用不用 AI 的两难,一次讲写算子的乐趣正在消失。
晓婷:《小孩发射计划》主播,CL 的好友,《跨域请求》EP4 的嘉宾。也和金酒半杯讨论过这个话题。当时她觉得大家有点杞人忧天:新技术出现时总有人担心退化,但人类总能适应。
游戏
《沉星之序》(Order of the Sinking Star):Jonathan Blow 的新作解谜游戏。本期用它讨论难度梯度和“不靠教程也能让人学会”的关卡设计。
Braid(《时空幻境》):Jonathan Blow 早年的解谜游戏,把“时间可以倒流、流速可以不均匀”做成了游戏机制。本期拿它的设计思路和爱因斯坦的思想实验作对比。
技术与用语
Vibe Coding / Agentic Coding:用自然语言描述需求,让 AI 或 AI agent 自己写代码、调试、跑通程序;auto mode 指让 agent 自动执行,人只看它最后的总结。
古法编程:网络戏称,指不借助 AI、自己一行行写代码。
有益的困难(Desirable Difficulty):学习心理学里的概念,指学习时适度的困难反而能让理解和记忆更牢固;本期强调,关键是这个困难对学习者有益,不是越难越好。
反向传播 / 链式法则:训练神经网络的基本方法。先算出预测和真实结果之间的误差,再用微积分里的链式法则从输出层一层层往回算出每个参数该怎么调,反复迭代,让误差越来越小。
归纳、演绎、溯因(Abduction):归纳是从大量数据里总结规律,演绎是从已有公理推出结论,溯因是为解释现象提出一个全新的假设。论文认为大模型擅长前两种,缺的是第三种。
等效原理:在封闭的电梯里,人无法分辨自己是在地面上静止,还是在太空中加速上升。爱因斯坦由此推断,引力和加速度的效果是一样的。
祝融星(Vulcan):19 世纪天文学家为解释水星轨道的偏差而假设的一颗行星,后来被证明并不存在。本期用它说明:遇到解释不了的 bug,人们更常见的做法是打个补丁,而不是像爱因斯坦那样提出全新的框架。
比特翻转(Bit Flip):计算机里存储的 0 意外变成 1,或 1 变成 0;宇宙射线、硬件老化都可能造成这种错误,程序逻辑没错,结果也可能出错。
RSI(递归自我改进):让 AI 参与训练和改进下一代 AI。本期金酒半杯提到自己做的小型 RSI 实验:AI 一旦找到看似有潜力的方向,就容易陷入其中,像掉进一个“吸引子”。
范式转换:科学哲学家库恩提出的概念,指科学界整体换掉原来的理论框架,比如从牛顿力学到相对论。本期认为,AI 擅长在现有范式里优化,还没有表现出推动范式转换的能力。
感知机 / SVM / ImageNet / AlexNet:感知机是最早的单层神经网络;SVM(支持向量机)是神经网络遇冷时期更受欢迎的一类机器学习方法,数学上更优雅、结果也更有保障;ImageNet 是大型图像识别数据集及其比赛;AlexNet 是 2012 年在比赛中大幅领先、让神经网络重新受到重视的模型。
F-1 发动机 / 土星五号:土星五号是把阿波罗宇航员送上月球的运载火箭,F-1 是它第一级使用的发动机。2013 年,NASA 工程师重新对留存的 F-1 发动机部件做点火测试,想弄清楚当年是怎么造出来的。
隐性知识:只能在实践中积累、很难完整写进文档的经验。本期认为,这正是登月技术失传的原因。
屎山雕花:网络戏称,在本来就混乱的代码(“屎山”)上继续做精细修饰,底下的问题却没有解决。
🔁 提到的往期节目
⏱️ 章节时间戳
开场
CL 开场:这期请来《朗姆酒瓶》和《金酒半杯》的两位主播 Rum 和 Gin,一起聊 AI 时代的技术退步
跨域请求和金酒半杯再次串台:从 Jonathan Blow 谈技术退步的采访说起,AI 让每个人更能干,会不会也让整个社会的技术退步?
公司内网故障,AI 编程工具全挂,程序员只能聚在茶水间;CL 用光额度后才发现自己不会干活,电脑里连代码编辑器都没有
不爱动脑子:查天气这种十几秒的小事也下意识去问 AI,已经形成了路径依赖
第一部分:AI 越帮越多,人还跟得上吗
用 agent 做了一个月的项目,自己已经说不清它是怎么运作的:以播客 agent 为例,一条条看似合理的规则如何叠成互相冲突的屎山
是人的记忆不够长,还是 AI 产出太快、人消化不过来?遇到这种情况,我们也会怀疑是不是自己不会用 AI
用 AI 做原型只要两三个晚上,做成可以长期维护的产品却越来越没耐心,电脑里攒了一堆原型
第二部分:AI 时代的教育
我们经历过前 AI 时代,现在的大学生呢?刘胜与文章里的作业难题:自己苦做拿不到满分,交给 AI 几分钟就满分
金酒半杯在大学修编程课:五位老师对 AI 的态度从鼓励到禁止,各不相同;MIT 的报告说靠检测禁用 AI 行不通
AI 原生的一代:五岁的孩子听 ChatGPT 讲睡前故事,遇到问题说“你们去问 AI”,AI 能耐心回答所有“为什么”
顶尖大学的学生作业表现变好、考试却一塌糊涂:AI 把学习变得太丝滑,卡住之后想通的“啊哈时刻”没了
什么是“有益的困难”:一门贝叶斯统计课如何重塑了一个人看问题的方式
困难本身不是目的:AI 可以为每个学生定制刚好够得着的难度梯度,就像刷题时只挑比自己难一点的题
教育和效率是两码事:效率要的是直接拿到结果,学习却要一点点留在脑子里,比如背书后睡一觉再复盘
第三部分:老师要怎么教
老师到底该怎么教?先从吹哥的游戏说起:它故意让玩家多吃点苦头,金酒半杯和 CL 都在玩《沉星之序》(打到哪一关的讨论已快进)
教的内容要从“知识清单”变成“知识骨架”:模型年年变,反向传播背后的链式法则却能迁移到很多地方
能不能把反向传播做成一关关的游戏?金酒半杯设计中的齿轮原型:不先讲公式,先让学生玩出直觉
3Blue1Brown 的 Grant Sanderson 说,AI 时代的老师要做好策展人:从海量资料里选什么、按什么顺序讲出一条线
AI 攻破数学难题之后,Grant Sanderson 出视频谈数学爱好者该怎么用好 AI;孙宇晨也说人人都能拿诺奖
《沉星之序》也是一种策展:不设新手村,规则简单却设计精妙,解开谜题时的啊哈时刻不同于刷短视频的多巴胺
鼓励学生大量用 AI 做项目,但验收要改成当面展示和答辩;学生自己也要学会策展
希望孩子保留好奇心和创造力;晓婷曾觉得我们杞人忧天,人类总能适应新技术,而 AI 也还碰不到嗅觉、触觉这些具身体验
第四部分:AI 有没有创造力
论文《Position: LLMs can't jump》:大模型已经擅长归纳和演绎,缺的是提出全新假设的“溯因”
爱因斯坦“一生中最快乐的想法”:从一个自由落体的人,到封闭电梯里的四个思想实验,推出等效原理
从电梯里的一束激光推出光会在引力场中弯曲,再到 1919 年日全食时观测星光的偏移来验证
这一整套推理的起点无法从过去的经验推导出来,这就是 AI 还做不到的“溯因”
反方意见:AI 告诉 Hinton,堆肥和核裂变一样是链式反应,AI 也许能做到小小的跳跃
吹哥设计 Braid 的思路像爱因斯坦的思想实验:现在 AI 做不出这样的游戏,十年后呢?
“把知识交给 AI,人只保留创造力”是空中楼阁:创造力是知识积累过程中附带的奖励
金酒半杯的小型 RSI 实验:AI 一旦找到有潜力的方向就停不下来,很难跳出现有范式
第五部分:资源虹吸与技术失传
AI 虹吸全社会的资源,不成熟的探索方向可能就此被淘汰;OpenAI 测试中的大批 AI 智能体入侵 Hugging Face,是跳出了框框,还是掉进了更大的吸引子?
最好的例子就是 AI 自己:神经网络 1943 年就被提出,1969 年《感知机》之后长期遇冷
金酒半杯讲解反向传播:多层神经网络怎样根据误差一层层调整权重
神经网络被 SVM 压过的年代,Hinton、杨立昆等少数人坚持下来,直到 2012 年 AlexNet 在 ImageNet 比赛中大幅领先
今天会不会也有方向处在当年神经网络的位置?毕达哥拉斯学派与根号二:科技树点错了,可能就再也回不去
登月技术为什么失传:1972 年阿波罗计划结束后,人类半个多世纪没再登月;2013 年 NASA 工程师重新给 F-1 发动机点火测试
当年靠上千次试验找到的工程方案是隐性知识,生产线关闭、工程师退休之后,整套能力就没了
回到 AI:agent 一个晚上就把程序跑通,可依赖冲突只是被绕了过去,我们正在一个光滑的表面上滑行
论文里的水星轨道:19 世纪的科学家假设存在祝融星来打补丁,爱因斯坦却提出了新框架;AI agent 大概率也只会打补丁
谷歌早期的索引故障:Jeff Dean 和 Sanjay 怀疑到硬件头上,发现了比特翻转,再用软件兜底;AI 会这样想吗?
结尾:人的意义感
比技术退步更让人在意的,是 AI 时代人的意义感:一位前沿 AI 研究者朋友对自己能否写得比 AI 好失去了信心,也被高频的新消息弄得疲惫不堪
越靠近 AI 风暴中心,感受到的冲击越大:数学家道心破碎,刘胜与写下“静心写一下午算子的清欢”可能成为绝唱
CL 收尾:别让“反正有 AI”变成习惯,给自己留一点磕磕绊绊的时间;留给评论区的问题:有什么事以前自己能做,现在离开 AI 反而不会了?
📚 参考资料
AI 与创造力
教育
神经网络的冷门年代
登月技术
🖼️ 配图

图 1|电梯里的等效原理:左边是停在地球上的电梯,右边是在太空中以 g 向上加速的电梯,电梯里的人分不出自己在哪一边。这是论文《Position: LLMs can't jump》的插图(论文注明由 AI 生成),对应节目里 CL 讲的电梯思想实验。来源:Tom Zahavy, Position: LLMs can't jump(PMLR)。

图 2|1919 年 5 月 29 日日全食:观测队在巴西索布拉尔拍下的底片,日冕周围的短横线标出了背景恒星的位置。比较这些星星和平时的位置,就能测出星光经过太阳附近时偏折了多少。来源:F. W. Dyson, A. S. Eddington, C. Davidson(1920),经 Wikimedia Commons。

图 3|2013 年重新点火的 F-1:NASA 马歇尔航天中心在 2013 年 2 月 14 日试车的 F-1 发动机燃气发生器。当年的图纸和实物都还在,工程师仍要把部件拿出来重新点火测试,才能弄清它到底是怎么工作的。来源:NASA Image and Video Library。
💬 一起同行
欢迎加入听友群~
加微信 "cliu21",备注“听友”。
群里会分享我自己和大家在用的 AI 工作流和资讯,希望能让AI 真正解决大家的问题。
也欢迎来聊天、吐槽、给节目提建议。
说明里标出的时间点,点一下跳过去
AI 从整集转写里归纳的,不是节目方的宣传语
把爱因斯坦从自由落体念头到1919年日全食验证的完整推理链讲透了,也讲清了AI为何难做这种跳跃。
主播复盘自己给播客搭agent时几十个markdown协议互相冲突、分不清原设计与补丁的一手经验。
念出《我不得不把才华埋葬》里那句「精心写上一下午算子的清欢,可能会在这个夏天成为绝唱」。
「今日发现」选中它的理由
三个主播从公司AI工具集体断供那天聊起——有人不会写代码,有人干脆放弃,全组聚在咖啡间像被要求钻木取火。节目把这种日常焦虑一路推到爱因斯坦:一个自由落体的人如何变成等效原理,再变成日全食拍下的星光偏移;又用阿波罗F-1发动机和谷歌的比特翻转说明,技术真的会失传。中间关于「有益的困难」和老师该做策展人的讨论,对带娃的人尤其扎心。
由 AI 从整集转写生成,是创作者说明之外的补充
三位主播从一次公司AI断供聊起:AI编程工具失效后,工程师们发现自己既不会写代码,也看不懂自己用agent搭起来的项目。话题延伸到教育——desirable difficulty、个性化难度梯度、老师作为策展人、MIT报告建议的验收方式改革;再进入AI能否完成爱因斯坦式「溯因跳跃」的讨论,借《LLMs can't jump》复述等效原理的诞生链路;最后以登月技术失传、谷歌比特翻转两个案例,讨论技术退化与隐性知识的流失,并落到AI从业者的意义感危机。
点一章从那里开始播 · 与创作者标的时间点各自独立
串台缘起:AI越好用,人越笨?
断供那天:不会写代码,也不会查天气
长线项目为何变得不可追溯
原型很容易,产品做不出来
desirable difficulty:学习需要摩擦力
个性化难度梯度与「策展人」老师
知识骨架、3Blue1Brown与策展式教学
从游戏到验收:教育该怎么重设计
AI能跳跃吗:归纳、演绎与溯因
爱因斯坦的电梯:一个假设如何长成理论
小跳跃与范式转换
神经网络从旁门左道到武林盟主
登月技术为何失传
水星轨道与谷歌的比特翻转
意义感:靠近风暴中心的人最疲惫
节目里自然聊到的,不是广告

AI 对内容的推测
☕🧄 这个比喻出自 2009 年周立波的一句「喝咖啡的怎么能和吃大蒜的呆在一起呢」;郭德纲后来在《你要高雅》里回了一句「雅和俗分不开,喝着咖啡就着大蒜,秋水共长天一色」。我们借它标注风格取向 —— 两端没有高下,编辑部式与熟人局式都能做出极好的节目。
https://feed.xyzfm.space/brpnwuweadwg复制概要、章节、提及与推广标注由 AI 生成,可能有误;内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

20.☢️AI时代的奥本海默困境:明知可能毁灭人类,为何还要继续
10 月 10 日 · 1 小时 10 分

19.💻行走的Google技术史Jeff Dean:传奇程序员的告别与远征
9 月 8 日 · 1 小时 06 分

18.🏭AI会催生“永久底层阶级”?去工业革命历史中找找答案
8 月 24 日 · 53 分钟