
11 月 10 日 · 26 分钟
![[人人能懂AI前沿] 从潜力天花板、刻意放手到几何陷阱](https://media-one.wavpub.com/covers/1b225f87-4eea-40e2-9522-fb4563ec9b2c/d48cb32e6dd1d52c.png?x-oss-process=image/resize,m_lfit,w_520,h_520/format,webp)
本期我们要聊聊AI世界里那些看似矛盾却充满智慧的最新发现。为什么教AI做好事,它反而会“变坏”?又该如何像做微创手术一样,只修正它的一个知识点而不破坏整体能力?我们还会探讨,为什么在训练中“刻意放手”让模型偷个懒,效果反而更好,以及我们该如何打开AI的“奖励黑箱”,看看它到底在偷偷学些什么。准备好了吗?让我们一起潜入AI思想的深海。
AI大模型军备竞赛,如何不做那个“冤大头”?
成长的捷径,学会“刻意放手”
好心办坏事,为什么训练AI做好事,它却变坏了?
如何给AI动手术,才能只切病灶不伤身?
打开AI的黑箱,它在偷偷学什么?
本期介绍的几篇论文:
[LG] Prescriptive Scaling Reveals the Evolution of Language Model Capabilities
[Harvard University & Stanford University]
https://arxiv.org/abs/2602.15327
---
[LG] On Surprising Effectiveness of Masking Updates in Adaptive Optimizers
[Google & Northwestern University]
https://arxiv.org/abs/2602.15322
---
[LG] The Geometry of Alignment Collapse: When Fine-Tuning Breaks Safety
[Princeton University]
https://arxiv.org/abs/2602.15799
---
[LG] CrispEdit: Low-Curvature Projections for Scalable Non-Destructive LLM Editing
[University of Southern California]
https://arxiv.org/abs/2602.15823
---
[LG] Discovering Implicit Large Language Model Alignment Objectives
[Stanford University]
https://arxiv.org/abs/2602.15338
说明里标出的时间点,点一下跳过去

11 月 10 日 · 26 分钟

[人人能懂AI前沿] 3D持续打磨、多智能体博弈与微米级控制
11 月 9 日 · 24 分钟

[人人能懂AI前沿] 从元技能提炼、对抗性推理到物理世界的“柔性破界”
11 月 8 日 · 23 分钟

[人人能懂AI前沿] 从分配脑容量、无反馈破局到预测未来的代价
11 月 7 日 · 24 分钟
![[人人能懂AI前沿] 从潜力天花板、刻意放手到几何陷阱](https://media-one.wavpub.com/covers/1b225f87-4eea-40e2-9522-fb4563ec9b2c/d48cb32e6dd1d52c.png?x-oss-process=image/resize,m_lfit,w_400,h_400/format,webp)
AI可可AI生活 · 2 月 19 日 · 31 分钟
本期我们要聊聊AI世界里那些看似矛盾却充满智慧的最新发现。为什么教AI做好事,它反而会“变坏”?又该如何像做微创手术一样,只修正它的一个知识点而不破坏整体能力?我们还会探讨,为什么在训练中“刻意放手”让模型偷个懒,效果反而更好,以及我们该如何打开AI的“奖励黑箱”,看看它到底在偷偷学些什么。准备好了吗?让我们一起潜入AI思想的深海。
AI大模型军备竞赛,如何不做那个“冤大头”?
成长的捷径,学会“刻意放手”
好心办坏事,为什么训练AI做好事,它却变坏了?
如何给AI动手术,才能只切病灶不伤身?
打开AI的黑箱,它在偷偷学什么?
本期介绍的几篇论文:
[LG] Prescriptive Scaling Reveals the Evolution of Language Model Capabilities
[Harvard University & Stanford University]
https://arxiv.org/abs/2602.15327
---
[LG] On Surprising Effectiveness of Masking Updates in Adaptive Optimizers
[Google & Northwestern University]
https://arxiv.org/abs/2602.15322
---
[LG] The Geometry of Alignment Collapse: When Fine-Tuning Breaks Safety
[Princeton University]
https://arxiv.org/abs/2602.15799
---
[LG] CrispEdit: Low-Curvature Projections for Scalable Non-Destructive LLM Editing
[University of Southern California]
https://arxiv.org/abs/2602.15823
---
[LG] Discovering Implicit Large Language Model Alignment Objectives
[Stanford University]
https://arxiv.org/abs/2602.15338
说明里标出的时间点,点一下跳过去

https://feed.xyzfm.space/wl9t7httkfd3复制内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

11 月 10 日 · 26 分钟

[人人能懂AI前沿] 3D持续打磨、多智能体博弈与微米级控制
11 月 9 日 · 24 分钟

[人人能懂AI前沿] 从元技能提炼、对抗性推理到物理世界的“柔性破界”
11 月 8 日 · 23 分钟