
[人人能懂AI前沿] 从分配脑容量、无反馈破局到预测未来的代价
11 月 7 日 · 24 分钟
![[人人能懂AI前沿] 从开卷提示、基准调优到自我进化](https://media-one.wavpub.com/covers/1b225f87-4eea-40e2-9522-fb4563ec9b2c/d48cb32e6dd1d52c.png?x-oss-process=image/resize,m_lfit,w_520,h_520/format,webp)
今天,我们将带你一口气读懂五篇极具启发的最新论文,看看AI如何用“反直觉”的方式重塑我们的认知:从给小模型“开卷提示”来预测未来潜力,到调优基准线戳破90%的技术降维神话;从让AI化身战略家自主进化“办事SOP”,到用最笨的死记硬背练就极速“元记忆”,最后我们还会揭秘,为什么AI的“胡说八道”与边缘的“单次事实”里,竟藏着科学发现的钥匙。准备好了吗?让我们一起开启今天硬核又通透的AI之旅!
遇见未来的“笨办法”,为什么给一点提示,就能看透事物的潜力?
为什么90%的“降维打击”,只是因为你没有发挥出真实的实力?
真正的高手,都在打造一套自我进化的“办事系统”
为什么越“笨”的功夫,反而能练出最快的脑子?
为什么AI的“胡说八道”里,藏着科学发现的秘密?
本期介绍的几篇论文:
[LG] Hinted Scaling Laws
[Stanford University]
https://arxiv.org/abs/2611.02270
---
[CL] Tune the Baseline First:Most of Muon's Scaled Weight Decay Gain Is a Tuning Gap, but Its Small Real Advantage Grows With Model Size
[E Xin]
https://arxiv.org/abs/2611.0252
---
[AI] Strategist: Evolving Reasoning with Agents
[Princeton University & Meta]
https://arxiv.org/abs/2611.03618
---
[LG] Meta-memorization and memorization scaling laws in transformers
[Princeton University]
https://arxiv.org/abs/2611.01564
---
[CL] Tracing the Scientific Discovery Capacity of LLMs to Their Training Data
[Johns Hopkins University]
https://arxiv.org/abs/2611.03617
说明里标出的时间点,点一下跳过去
AI 从整集转写里归纳的,不是节目方的宣传语
新方法看似碾压老方法,把老方法参数调优后九成优势消失,剩下的微弱优势还会随模型变大而放大。
用纯随机二进制数列训练模型,发现模型越大记新数据越快,注意力机制练成了抽象分类的图书管理员。
牛顿一生大量时间花在炼金术上,这个八卦引出发现与幻觉同源:想创新就得容忍犯错。
AI 读完整集转写后给出的推荐理由
20分钟讲完五篇AI论文,每篇都从一个反直觉的点切入:给零分的小模型开卷提示反而能预测未来潜力;新方法看似碾压老方法,九成优势其实来自老方法参数没调好;AI自己写办事流程,成本降了近四成;模型越大记新东西反而越快;训练数据里只出现一次的边缘信息越多,AI越可能做出科学发现。每篇都配了生活化的类比,通勤路上就能听完。
由 AI 从整集转写生成,是创作者说明之外的补充
本期用20分钟串讲五篇AI前沿论文,并逐篇落到普通人的认知启发:Hinted Scaling Laws 用「开卷提示」让小模型成绩平滑上升,从而预测大模型潜力;一篇基准调优论文指出新方法看似碾压老方法,其实90%优势来自老方法参数未调好;Strategist 系统让AI自己设计并迭代办事流程,在30个测试中准确率持平或更高、成本降近40%;元记忆论文发现模型越大记新数据越快,因为注意力机制练出了抽象索引能力;最后一篇指出训练数据中「单次事实」越多,AI科学发现能力越强,发现与幻觉同源。
点一章从那里开始播 · 与上面创作者标的时间点各自独立
开场:五篇论文一张地图
主播coco开场列出本期要讲的五篇论文:开卷提示预测潜力、基准调优戳破降维打击、AI战略家自我进化SOP、死记硬背练元记忆、单次事实与科学发现。
开卷提示:给零分的小模型一点提示
用小模型考零分无法预测大模型潜力的问题切入,介绍Hinted Scaling Laws如何通过梯度提示让小模型成绩平滑上升,并利用提示量与模型规模的换算关系反推大模型成绩。
零分不是没潜力,是缺脚手架
把开卷提示引申到日常判断:不要看一个人孤立无援时考几分,而要看他吸收帮助、利用提示时的成长曲线。
基准调优:90%的碾压是调试差距
介绍一篇论文发现新训练方法的巨大优势中约90%来自老方法参数未调好,调优基准线后优势消失,说明所谓降维打击可能只是鞋带没系紧。
微小但真实的优势会随规模放大
论文第二层结论:挤掉水分后新方法仍有微弱真实优势,且模型扩大八倍时留存比例从约10%升到21%,引申出喜新厌旧与误解优势两个误区。
战略家:让AI自己写办事流程
介绍Strategist系统:战略家从策略图书馆调取蓝图、组合候选流程、试跑核算性价比、存回新流程,使系统经验可以复利积累。
30个测试胜出,成本降四成
战略家系统在数学、编程、常识推理等30个测试中多数胜过人类固定策略,成本降近40%,且流程可迁移到其他模型,引申到个人应建立自我优化的经验系统。
元记忆:越大的模型记得越快
用随机二进制数列实验揭示模型越大记新数据越快,原因是注意力机制练成抽象分类的图书管理员,前馈网络负责存储,形成元记忆能力。
笨功夫在打磨你的记忆索引
把元记忆引申到学习:背法条、记单词、死磕流程看似无用,实则在打磨信息索引机制,让人遇到新领域时能快速抓住核心。
单次事实:AI胡说八道里的发现力
从牛顿炼金术引出AI能否发现未知的问题,介绍论文发现训练数据中只出现一次的「单次事实」越多,AI科学发现能力越强,发现与幻觉同源。
去找你生命里的单次事实
把单次事实引申到个人创造力:读冷门书、接触圈外陌生人、留意偶然灵感,给未知留出空白地带,并总结五篇论文共同的认知姿态。

[人人能懂AI前沿] 从分配脑容量、无反馈破局到预测未来的代价
11 月 7 日 · 24 分钟

[人人能懂AI前沿] 从交互式世界、软硬协同到警惕AI的温柔陷阱
11 月 6 日 · 25 分钟

[人人能懂AI前沿] 从上下文回路、拒绝“超长记忆”到超越打分机
11 月 5 日 · 26 分钟

[人人能懂AI前沿] 从分层解耦、误差反馈到打破“思维口头禅
11 月 3 日 · 26 分钟
![[人人能懂AI前沿] 从开卷提示、基准调优到自我进化](https://media-one.wavpub.com/covers/1b225f87-4eea-40e2-9522-fb4563ec9b2c/d48cb32e6dd1d52c.png?x-oss-process=image/resize,m_lfit,w_400,h_400/format,webp)
AI可可AI生活 · 11 月 4 日 · 20 分钟
今天,我们将带你一口气读懂五篇极具启发的最新论文,看看AI如何用“反直觉”的方式重塑我们的认知:从给小模型“开卷提示”来预测未来潜力,到调优基准线戳破90%的技术降维神话;从让AI化身战略家自主进化“办事SOP”,到用最笨的死记硬背练就极速“元记忆”,最后我们还会揭秘,为什么AI的“胡说八道”与边缘的“单次事实”里,竟藏着科学发现的钥匙。准备好了吗?让我们一起开启今天硬核又通透的AI之旅!
遇见未来的“笨办法”,为什么给一点提示,就能看透事物的潜力?
为什么90%的“降维打击”,只是因为你没有发挥出真实的实力?
真正的高手,都在打造一套自我进化的“办事系统”
为什么越“笨”的功夫,反而能练出最快的脑子?
为什么AI的“胡说八道”里,藏着科学发现的秘密?
本期介绍的几篇论文:
[LG] Hinted Scaling Laws
[Stanford University]
https://arxiv.org/abs/2611.02270
---
[CL] Tune the Baseline First:Most of Muon's Scaled Weight Decay Gain Is a Tuning Gap, but Its Small Real Advantage Grows With Model Size
[E Xin]
https://arxiv.org/abs/2611.0252
---
[AI] Strategist: Evolving Reasoning with Agents
[Princeton University & Meta]
https://arxiv.org/abs/2611.03618
---
[LG] Meta-memorization and memorization scaling laws in transformers
[Princeton University]
https://arxiv.org/abs/2611.01564
---
[CL] Tracing the Scientific Discovery Capacity of LLMs to Their Training Data
[Johns Hopkins University]
https://arxiv.org/abs/2611.03617
说明里标出的时间点,点一下跳过去
AI 从整集转写里归纳的,不是节目方的宣传语
新方法看似碾压老方法,把老方法参数调优后九成优势消失,剩下的微弱优势还会随模型变大而放大。
用纯随机二进制数列训练模型,发现模型越大记新数据越快,注意力机制练成了抽象分类的图书管理员。
牛顿一生大量时间花在炼金术上,这个八卦引出发现与幻觉同源:想创新就得容忍犯错。
AI 读完整集转写后给出的推荐理由
20分钟讲完五篇AI论文,每篇都从一个反直觉的点切入:给零分的小模型开卷提示反而能预测未来潜力;新方法看似碾压老方法,九成优势其实来自老方法参数没调好;AI自己写办事流程,成本降了近四成;模型越大记新东西反而越快;训练数据里只出现一次的边缘信息越多,AI越可能做出科学发现。每篇都配了生活化的类比,通勤路上就能听完。
由 AI 从整集转写生成,是创作者说明之外的补充
本期用20分钟串讲五篇AI前沿论文,并逐篇落到普通人的认知启发:Hinted Scaling Laws 用「开卷提示」让小模型成绩平滑上升,从而预测大模型潜力;一篇基准调优论文指出新方法看似碾压老方法,其实90%优势来自老方法参数未调好;Strategist 系统让AI自己设计并迭代办事流程,在30个测试中准确率持平或更高、成本降近40%;元记忆论文发现模型越大记新数据越快,因为注意力机制练出了抽象索引能力;最后一篇指出训练数据中「单次事实」越多,AI科学发现能力越强,发现与幻觉同源。
点一章从那里开始播 · 与创作者标的时间点各自独立
开场:五篇论文一张地图
开卷提示:给零分的小模型一点提示
零分不是没潜力,是缺脚手架
基准调优:90%的碾压是调试差距
微小但真实的优势会随规模放大
战略家:让AI自己写办事流程
30个测试胜出,成本降四成
元记忆:越大的模型记得越快
笨功夫在打磨你的记忆索引
单次事实:AI胡说八道里的发现力
去找你生命里的单次事实
节目里自然聊到的,不是广告

AI 对内容的推测
☕🧄 这个比喻出自 2009 年周立波的一句「喝咖啡的怎么能和吃大蒜的呆在一起呢」;郭德纲后来在《你要高雅》里回了一句「雅和俗分不开,喝着咖啡就着大蒜,秋水共长天一色」。我们借它标注风格取向 —— 两端没有高下,编辑部式与熟人局式都能做出极好的节目。
https://feed.xyzfm.space/wl9t7httkfd3复制概要、章节、提及与推广标注由 AI 生成,可能有误;内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

[人人能懂AI前沿] 从分配脑容量、无反馈破局到预测未来的代价
11 月 7 日 · 24 分钟

[人人能懂AI前沿] 从交互式世界、软硬协同到警惕AI的温柔陷阱
11 月 6 日 · 25 分钟

[人人能懂AI前沿] 从上下文回路、拒绝“超长记忆”到超越打分机
11 月 5 日 · 26 分钟