A[人人能懂] 从二元奖惩、动态审计到思维积木

[人人能懂] 从二元奖惩、动态审计到思维积木

AI可可AI生活·2025 年 10 月 22 日·27 分钟
在小宇宙播放
创作者写的节目说明

本期我们要聊一个核心问题:我们总觉得AI是个神秘的黑箱,但最新的研究正在像做“脑部扫描”一样,试图撬开它。我们将看到,一个“满分或零分”的简单规则,就能教会AI诚实;又如何派出一个“AI侦探”,揪出潜伏的恶意模型。接着,我们会深入AI的“思考过程”,看看聪明的“大脑”和聪明的“搜索引擎”哪个更重要,以及如何让AI通过“犯错”来演化出正确答案,甚至把它的复杂推理拆解成一个个可以遥控的“思想积木”。准备好了吗?让我们一起深入AI的内心世界。

AI的“不说谎”训练:满分或零分

AI界的“无间道”:如何揪出披着羊皮的狼?

聪明的大脑,和聪明的搜索引擎,哪个更重要?

犯错没关系,只要你“改对”的概率比“改错”大一点点

拆解AI大脑:它思考时在想什么?

本期介绍的几篇论文:

[CL] Train for Truth,Keep the Skills:Binary Retrieval-Augmented Reward Mitigates Hallucinations  

[University of Washington & Allen Institute for AI (Ai2)]  

https://arxiv.org/abs/2510.17733 

---

[LG] Detecting Adversarial Fine-tuning with Auditing Agents  

[Anthropic]  

https://arxiv.org/abs/2510.16255 

---

[LG] Prior Makes It Possible:From Sublinear Graph Algorithms to LLM Test-Time Methods  

[Toyota Technological Institute at Chicago & Columbia University & Google Research]  

https://arxiv.org/abs/2510.16609 

---

[CL] Deep Self-Evolving Reasoning  

[Microsoft Research Asia & Peking University]  

https://arxiv.org/abs/2510.17498 

---

[LG] Algorithmic Primitives and Compositional Geometry of Reasoning in Language Models  

[Columbia University & University of California Los Angeles & Harvey Mudd College]  

https://arxiv.org/abs/2510.15987 


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AI可可AI生活 · 更多单集

看全部 1112 期 →

AI可可AI生活

A[人人能懂] 从二元奖惩、动态审计到思维积木

AI可可AI生活 · 2025 年 10 月 22 日 · 27 分钟

[人人能懂] 从二元奖惩、动态审计到思维积木

在小宇宙播放
创作者写的节目说明

本期我们要聊一个核心问题:我们总觉得AI是个神秘的黑箱,但最新的研究正在像做“脑部扫描”一样,试图撬开它。我们将看到,一个“满分或零分”的简单规则,就能教会AI诚实;又如何派出一个“AI侦探”,揪出潜伏的恶意模型。接着,我们会深入AI的“思考过程”,看看聪明的“大脑”和聪明的“搜索引擎”哪个更重要,以及如何让AI通过“犯错”来演化出正确答案,甚至把它的复杂推理拆解成一个个可以遥控的“思想积木”。准备好了吗?让我们一起深入AI的内心世界。

AI的“不说谎”训练:满分或零分

AI界的“无间道”:如何揪出披着羊皮的狼?

聪明的大脑,和聪明的搜索引擎,哪个更重要?

犯错没关系,只要你“改对”的概率比“改错”大一点点

拆解AI大脑:它思考时在想什么?

本期介绍的几篇论文:

[CL] Train for Truth,Keep the Skills:Binary Retrieval-Augmented Reward Mitigates Hallucinations  

[University of Washington & Allen Institute for AI (Ai2)]  

https://arxiv.org/abs/2510.17733 

---

[LG] Detecting Adversarial Fine-tuning with Auditing Agents  

[Anthropic]  

https://arxiv.org/abs/2510.16255 

---

[LG] Prior Makes It Possible:From Sublinear Graph Algorithms to LLM Test-Time Methods  

[Toyota Technological Institute at Chicago & Columbia University & Google Research]  

https://arxiv.org/abs/2510.16609 

---

[CL] Deep Self-Evolving Reasoning  

[Microsoft Research Asia & Peking University]  

https://arxiv.org/abs/2510.17498 

---

[LG] Algorithmic Primitives and Compositional Geometry of Reasoning in Language Models  

[Columbia University & University of California Los Angeles & Harvey Mudd College]  

https://arxiv.org/abs/2510.15987 


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AAI可可AI生活

AI可可AI生活

面向普通人的AI前沿论文解读节目,每期固定串讲五篇最新论文,把技术逻辑翻译成可迁移到个人成长、工作与日常决策的思维模型与…

已收录 1112 期 · 最近更新 11 月 10 日

在哪里听

https://feed.xyzfm.space/wl9t7httkfd3复制

内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 1112 期 →