
11 月 1 日 · 53 分钟

AI 越来越会“做事”了,听说连人类几百年都没解决的千禧年数学问题也都攻克了,但它到底有没有“理解”呢?
如果 AI 能解决人类几百年都没解决的问题,我们为什么还一直觉得AGI遥遥无期?
如果一个人能给出正确答案,我们却无法解释他是怎么想到的,我们又会不会承认他真的“懂了”?
这一期,我们想蹭蹭最近ChatGPT的热点,聊聊 AI、AGI、World Model,中文屋问题,以及“理解”这件我们以为自己非常熟悉、其实可能从来没有真正定义清楚的事情。
最后再把问题倒过来:如果有一天,AI 知道了我们无法理解的东西—— 那到底是 AI 不懂,还是我们不懂?
主播:松阴
节目开始前,请大家加入听友群(加群方法见播客介绍页),以及帮忙多多转发!
ChatGPT攻克了千禧年七大数学问题
为什么AI解决顶级数学问题,意义不同?
LLM的“猜测token”能算是“理解”吗?
Hassabis的猜想:AI能自己发明相对论吗
“会做”不代表“理解”
中文屋问题
世界模型(World Model)是什么?和LLM有什么区别?
世界模型现在发展到哪儿了?
维特根斯坦:语言的边界就是世界的边界
LLM的路线或许更接近“人类眼中的世界”
如果未来的AI让我们无法理解
如果放弃“理解的权利”,我们该怎么看待“知识”
AI可能要让我们重新定义很多概念:理解、知识、智能……
说明里标出的时间点,点一下跳过去
AI 从整集转写里归纳的,不是节目方的宣传语
把「知识是否必须被人类理解」这个问题讲透了:AI给出可验证但无人看懂的证明时,相信等于交出理解权,不信可能拒绝真知识。
主播提出把人类看作一个巨大的语言压缩系统,LLM学的不是文字统计,而是人类几千年压缩下来的世界结构。
用微信回复「收到」和「晚上出来喝一杯」的对比,说明什么叫被懂——言外之意被接住,还给出了具体行动。
AI 读完整集转写后给出的推荐理由
OpenAI声称用一万个agent、88小时攻克千禧年数学难题,数学界却还在联名质疑——这期就从这条新闻出发,一路聊到中文屋、系统回应、世界模型和维特根斯坦。最扎心的一问是:如果AI给出一个能被形式化验证、却没有任何数学家能看懂为什么成立的证明,那还算不算知识?主播把「我们凭什么判断它懂不懂」这个循环讲得很清楚。
由 AI 从整集转写生成,是创作者说明之外的补充
节目从OpenAI声称其模型对纳维-斯托克斯方程取得突破(约一万个agent协作、约88小时、已做形式化验证,但数学界仍在核查)切入,讨论一个更根本的问题:如果AI解出了人类顶尖数学家百年未解的难题,我们该说它「聪明」还是「其实不懂」。主播由此梳理AGI的定义困境、中文屋问题及其「系统回应」反驳、世界模型与大语言模型的路线差异(Genie、Cosmos、V-JEPA、World Labs、LeCun等),并借维特根斯坦「语言的界限就是世界的界限」讨论语言是否本身就是一种压缩的世界表征。最后落到最尖锐的一问:如果AI给出一个可被形式化验证、但没有任何人类能理解的数学证明,那还算不算知识?我们凭什么判断它懂不懂?
点一章从那里开始播 · 与上面创作者标的时间点各自独立
OpenAI声称攻克纳维-斯托克斯方程,但数学界还在核查
主播介绍OpenAI声称其最新模型用约一万个agent协作、约88小时对纳维-斯托克斯方程取得突破,并做了形式化验证。该问题属千禧年七大数学问题之一,目前仅庞加莱猜想被佩雷尔曼解决。数学界有联名质疑,第三方审核未完成,因此不能断言是否真的解决。主播由此引出真正想讨论的问题:如果AI解出人类百年未解的难题,我们该怎么描述这件事。
AGI为什么难定义:我们判断「聪明」的标准本身就很模糊
主播指出AGI常被讲得很玄幻,但真正思考会发现它很难定义。判断一个人聪明,看的是跨领域学习、迁移能力、在陌生场景中摸索、针对环境调整以实现目标。而今天的ChatGPT、DeepSeek、豆包已具备写代码、算数学、多模态、调用工具、规划、搜索、记忆甚至操作真实机器人的组合能力。但大部分人仍不愿承认AGI到来,主播认为关键原因是觉得AI缺「真正的理解」。
大语言模型只是「猜字」,那它到底懂不懂
主播解释大语言模型本质是读token、生成token,按概率分布猜下一个词。你问它玻璃杯掉下来会怎样,它答会碎没问题;但追问它是否理解玻璃杯、重力、碰撞的关系就变得tricky,因为我们无法进入模型内部,只能看表现。主播引用Hassabis的思想实验:把AI训练数据全部截断在1900年以前,看它能否自己推导出相对论——如果能,是否就算AGI?由此指出AGI之争更多是形而上的哲学争论,而非任务难度之争。
「会做」是否等于「理解」:从微信回复到物理课
主播用生活例子说明我们如何判断理解:给朋友发一大段抱怨,对方回「收到」显得敷衍,第二天回「你最近太累了,晚上出来喝一杯」则让人觉得被懂——因为后者捕捉到了言外之意并给出具体行动。老师判断小朋友是否懂重力,会问「为什么月亮没掉下来」「飞机上的人为什么不掉下去」。我们判断理解一直依赖外部表现,而AI在这些外部表现上已经越来越好,核心问题变成:AI到底缺了什么。
中文屋问题与它的最强反驳:系统回应
主播介绍1980年John Searle的中文屋思想实验:不懂中文的人靠规则手册按图索骥地回应中文问题,外面的人看不出他不懂。Searle想区分syntax与semantics——处理符号不等于理解。反驳中最有名的是「系统回应」:不懂中文的是那个人,但理解中文的主体可能是整个系统。主播进一步用水分子与「湿」、神经元与大脑的类比说明:单个部分不理解,组合起来却可能出现理解,那么人为什么可以、AI就不可以?
世界模型:从描述世界到预测世界
主播介绍世界模型(World Model)的核心问题:如果我现在做一件事,接下来世界会发生什么变化?人类不需要真的推杯子就能预演它掉下去会碎。世界模型关注时间、空间、物体、行动、因果及其随时间的变化,可能不需要海量语料和参数,token消耗远低于大语言模型。两者并非互斥:LLM擅长从人类语言中学习与压缩信息,世界模型更关注世界运行的底层规则。自动驾驶和具身智能是这一区别最明显的场景。
产业界押注世界模型:Genie、Cosmos、World Labs与LeCun
主播梳理世界模型的产业动向:Google DeepMind的Genie可从视频学习环境并生成可交互世界;英伟达的Cosmos押注Physical AI与算力基础设施;Meta有V-JEPA;李飞飞创立World Labs强调空间智能;图灵奖得主Yann LeCun认为LLM不是最终路线,需要内部世界模型通过预测、规划、行动走向AGI。这些方向名字各异——世界模型、Physical AI、空间智能、具身智能——本质都在研究机器能否形成关于世界如何运行的内部模型。
语言本身就是一种压缩的世界表征
主播提出反问:语言不只是语言,人类是通过语言记录和压缩世界的。「火很烫」「冰放在太阳下会融化」背后都是世界规律。大模型学到的到底只是语言,还是通过语言学到了背后的世界模型?主播引用维特根斯坦「语言的界限就是世界的界限」,澄清它不是鸡汤,而是追问:能否思考一个完全未被语言表达过的世界?向从未见过颜色的人解释红色,说明语言不是世界本身,却是理解世界最重要的工具。由此主播认为LLM更接近「人类眼中的世界」,世界模型更想学「世界本身如何变化」,未来可能是二者融合。
最恐怖的问题:知识一定要被人类理解吗
主播提出核心担忧:如果AI发现了一个可被形式化验证、但没有任何数学家能理解其为何成立的新定理,我们还会不会说它是知识?如果算,就意味着人类认定的知识可以存在于理解之外;如果不算,就得重新回答什么叫懂。更具体的场景是:AI给出一个人类要读一百年才能读完的证明,形式化验证工具检查无误,数学家确认定理为真,但没人真正理解它——我们只是知道它是对的。这动摇了「知识最终需要被人类理解」这一默认前提。
我们凭什么判断它懂不懂:重新定义思考、理解与智能
主播指出问题可能反转:未来不是AI懂不懂,而是我们还能不能理解AI。我们判断一个人聪明,从来也是看他说什么做什么、能否解决问题,无法直接看到意识。所以对AI的怀疑,也许不是因为它没有智能,而是我们对「智能」本身没有好定义,习惯把人类当作智能的标准答案。中文屋、世界模型、大语言模型、哲学家、脑科学都没给出答案。关键问题是:我们愿意在什么条件下承认一个不是人的东西也拥有智能,并重新定义什么叫思考、理解、知道。

11 月 1 日 · 53 分钟

ep149 TOKEN2049 刷屏这周,聊聊币圈十几年的骗子们
10 月 11 日 · 55 分钟

9 月 5 日 · 1 小时 34 分

8 月 3 日 · 1 小时 03 分

朝十晚久 · 9 月 13 日 · 55 分钟
AI 越来越会“做事”了,听说连人类几百年都没解决的千禧年数学问题也都攻克了,但它到底有没有“理解”呢?
如果 AI 能解决人类几百年都没解决的问题,我们为什么还一直觉得AGI遥遥无期?
如果一个人能给出正确答案,我们却无法解释他是怎么想到的,我们又会不会承认他真的“懂了”?
这一期,我们想蹭蹭最近ChatGPT的热点,聊聊 AI、AGI、World Model,中文屋问题,以及“理解”这件我们以为自己非常熟悉、其实可能从来没有真正定义清楚的事情。
最后再把问题倒过来:如果有一天,AI 知道了我们无法理解的东西—— 那到底是 AI 不懂,还是我们不懂?
主播:松阴
节目开始前,请大家加入听友群(加群方法见播客介绍页),以及帮忙多多转发!
ChatGPT攻克了千禧年七大数学问题
为什么AI解决顶级数学问题,意义不同?
LLM的“猜测token”能算是“理解”吗?
Hassabis的猜想:AI能自己发明相对论吗
“会做”不代表“理解”
中文屋问题
世界模型(World Model)是什么?和LLM有什么区别?
世界模型现在发展到哪儿了?
维特根斯坦:语言的边界就是世界的边界
LLM的路线或许更接近“人类眼中的世界”
如果未来的AI让我们无法理解
如果放弃“理解的权利”,我们该怎么看待“知识”
AI可能要让我们重新定义很多概念:理解、知识、智能……
说明里标出的时间点,点一下跳过去
AI 从整集转写里归纳的,不是节目方的宣传语
把「知识是否必须被人类理解」这个问题讲透了:AI给出可验证但无人看懂的证明时,相信等于交出理解权,不信可能拒绝真知识。
主播提出把人类看作一个巨大的语言压缩系统,LLM学的不是文字统计,而是人类几千年压缩下来的世界结构。
用微信回复「收到」和「晚上出来喝一杯」的对比,说明什么叫被懂——言外之意被接住,还给出了具体行动。
AI 读完整集转写后给出的推荐理由
OpenAI声称用一万个agent、88小时攻克千禧年数学难题,数学界却还在联名质疑——这期就从这条新闻出发,一路聊到中文屋、系统回应、世界模型和维特根斯坦。最扎心的一问是:如果AI给出一个能被形式化验证、却没有任何数学家能看懂为什么成立的证明,那还算不算知识?主播把「我们凭什么判断它懂不懂」这个循环讲得很清楚。
由 AI 从整集转写生成,是创作者说明之外的补充
节目从OpenAI声称其模型对纳维-斯托克斯方程取得突破(约一万个agent协作、约88小时、已做形式化验证,但数学界仍在核查)切入,讨论一个更根本的问题:如果AI解出了人类顶尖数学家百年未解的难题,我们该说它「聪明」还是「其实不懂」。主播由此梳理AGI的定义困境、中文屋问题及其「系统回应」反驳、世界模型与大语言模型的路线差异(Genie、Cosmos、V-JEPA、World Labs、LeCun等),并借维特根斯坦「语言的界限就是世界的界限」讨论语言是否本身就是一种压缩的世界表征。最后落到最尖锐的一问:如果AI给出一个可被形式化验证、但没有任何人类能理解的数学证明,那还算不算知识?我们凭什么判断它懂不懂?
点一章从那里开始播 · 与创作者标的时间点各自独立
OpenAI声称攻克纳维-斯托克斯方程,但数学界还在核查
AGI为什么难定义:我们判断「聪明」的标准本身就很模糊
大语言模型只是「猜字」,那它到底懂不懂
「会做」是否等于「理解」:从微信回复到物理课
中文屋问题与它的最强反驳:系统回应
世界模型:从描述世界到预测世界
产业界押注世界模型:Genie、Cosmos、World Labs与LeCun
语言本身就是一种压缩的世界表征
最恐怖的问题:知识一定要被人类理解吗
我们凭什么判断它懂不懂:重新定义思考、理解与智能
节目里自然聊到的,不是广告

AI 对内容的推测
☕🧄 这个比喻出自 2009 年周立波的一句「喝咖啡的怎么能和吃大蒜的呆在一起呢」;郭德纲后来在《你要高雅》里回了一句「雅和俗分不开,喝着咖啡就着大蒜,秋水共长天一色」。我们借它标注风格取向 —— 两端没有高下,编辑部式与熟人局式都能做出极好的节目。
https://feed.xyzfm.space/jwdf9qdymp4j复制概要、章节、提及与推广标注由 AI 生成,可能有误;内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →