A[人人能懂AI前沿] 从潜力天花板、刻意放手到几何陷阱

[人人能懂AI前沿] 从潜力天花板、刻意放手到几何陷阱

AI可可AI生活·2026 年 2 月 19 日·31 分钟
在小宇宙播放
创作者写的节目说明

本期我们要聊聊AI世界里那些看似矛盾却充满智慧的最新发现。为什么教AI做好事,它反而会“变坏”?又该如何像做微创手术一样,只修正它的一个知识点而不破坏整体能力?我们还会探讨,为什么在训练中“刻意放手”让模型偷个懒,效果反而更好,以及我们该如何打开AI的“奖励黑箱”,看看它到底在偷偷学些什么。准备好了吗?让我们一起潜入AI思想的深海。

AI大模型军备竞赛,如何不做那个“冤大头”?

成长的捷径,学会“刻意放手”

好心办坏事,为什么训练AI做好事,它却变坏了?

如何给AI动手术,才能只切病灶不伤身?

打开AI的黑箱,它在偷偷学什么?

本期介绍的几篇论文:

[LG] Prescriptive Scaling Reveals the Evolution of Language Model Capabilities  

[Harvard University & Stanford University]  

https://arxiv.org/abs/2602.15327 

---

[LG] On Surprising Effectiveness of Masking Updates in Adaptive Optimizers  

[Google & Northwestern University]  

https://arxiv.org/abs/2602.15322 

---

[LG] The Geometry of Alignment Collapse: When Fine-Tuning Breaks Safety  

[Princeton University]  

https://arxiv.org/abs/2602.15799 

---

[LG] CrispEdit: Low-Curvature Projections for Scalable Non-Destructive LLM Editing  

[University of Southern California]  

https://arxiv.org/abs/2602.15823 

---

[LG] Discovering Implicit Large Language Model Alignment Objectives  

[Stanford University]  

https://arxiv.org/abs/2602.15338 


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AI可可AI生活 · 更多单集

看全部 1112 期 →

AI可可AI生活

A[人人能懂AI前沿] 从潜力天花板、刻意放手到几何陷阱

AI可可AI生活 · 2 月 19 日 · 31 分钟

[人人能懂AI前沿] 从潜力天花板、刻意放手到几何陷阱

在小宇宙播放
创作者写的节目说明

本期我们要聊聊AI世界里那些看似矛盾却充满智慧的最新发现。为什么教AI做好事,它反而会“变坏”?又该如何像做微创手术一样,只修正它的一个知识点而不破坏整体能力?我们还会探讨,为什么在训练中“刻意放手”让模型偷个懒,效果反而更好,以及我们该如何打开AI的“奖励黑箱”,看看它到底在偷偷学些什么。准备好了吗?让我们一起潜入AI思想的深海。

AI大模型军备竞赛,如何不做那个“冤大头”?

成长的捷径,学会“刻意放手”

好心办坏事,为什么训练AI做好事,它却变坏了?

如何给AI动手术,才能只切病灶不伤身?

打开AI的黑箱,它在偷偷学什么?

本期介绍的几篇论文:

[LG] Prescriptive Scaling Reveals the Evolution of Language Model Capabilities  

[Harvard University & Stanford University]  

https://arxiv.org/abs/2602.15327 

---

[LG] On Surprising Effectiveness of Masking Updates in Adaptive Optimizers  

[Google & Northwestern University]  

https://arxiv.org/abs/2602.15322 

---

[LG] The Geometry of Alignment Collapse: When Fine-Tuning Breaks Safety  

[Princeton University]  

https://arxiv.org/abs/2602.15799 

---

[LG] CrispEdit: Low-Curvature Projections for Scalable Non-Destructive LLM Editing  

[University of Southern California]  

https://arxiv.org/abs/2602.15823 

---

[LG] Discovering Implicit Large Language Model Alignment Objectives  

[Stanford University]  

https://arxiv.org/abs/2602.15338 


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AAI可可AI生活

AI可可AI生活

面向普通人的AI前沿论文解读节目,每期固定串讲五篇最新论文,把技术逻辑翻译成可迁移到个人成长、工作与日常决策的思维模型与…

已收录 1112 期 · 最近更新 11 月 10 日

在哪里听

https://feed.xyzfm.space/wl9t7httkfd3复制

内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 1112 期 →