
11 月 10 日 · 26 分钟
![[人人能懂AI前沿] 驯服“神兽”指南:给AI纠错、开小灶与装个“省钱”的脑子](https://media-one.wavpub.com/covers/1b225f87-4eea-40e2-9522-fb4563ec9b2c/d48cb32e6dd1d52c.png?x-oss-process=image/resize,m_lfit,w_520,h_520/format,webp)
你有没有想过,AI不仅会犯错,犯错时还分“执迷不悟”和“一路迷茫”两种性格?我们想给AI“开小灶”教点新东西,最有效的方法竟然是发出比主信号弱一千倍的“悄悄话”。本期节目,我们将一起钻进AI的大脑,看看它是如何通过“搭便车”学坏,如何被装上一个“精打细算”的省钱脑子,以及我们该如何用几何“画圈”的方式,真正看懂它的所思所想。准备好了吗?让我们马上出发!
AI“学坏”,竟然是因为一个“搭便车”的坏习惯?
AI犯错,也分“执迷不悟”和“一路迷茫”?
AI进阶的艺术,如何给它开个“小灶”?
给AI装一个“省钱”的脑子
AI的“脑补”和我们的“理解”,中间差了什么?
本期介绍的几篇论文:
[CL] The Piggyback Hypothesis of Generalization: Explaining and Mitigating Emergent Misalignment
[Northeastern University & Stanford University]
https://arxiv.org/abs/2606.06667
---
[CL] How Language Models Fail: Token-Level Signatures of Committed and Persistent Reasoning Failures
[Stanford University]
https://arxiv.org/abs/2606.06635
---
[LG] TALAN: Task-Aligned Latent Adaptation Networks for Targeted Post-Training of Large Language Models
[Meta AI]
https://arxiv.org/abs/2606.06902
---
[LG] Towards Tight Bounds for Streaming Attention
[MIT]
https://arxiv.org/abs/2606.07205
---
[LG] A Geometric View for Understanding Concept Learning and Neuron Interpretation in Sparse Autoencoders
[University of Washington]
https://arxiv.org/abs/2606.07007
说明里标出的时间点,点一下跳过去

11 月 10 日 · 26 分钟

[人人能懂AI前沿] 3D持续打磨、多智能体博弈与微米级控制
11 月 9 日 · 24 分钟

[人人能懂AI前沿] 从元技能提炼、对抗性推理到物理世界的“柔性破界”
11 月 8 日 · 23 分钟

[人人能懂AI前沿] 从分配脑容量、无反馈破局到预测未来的代价
11 月 7 日 · 24 分钟
![[人人能懂AI前沿] 驯服“神兽”指南:给AI纠错、开小灶与装个“省钱”的脑子](https://media-one.wavpub.com/covers/1b225f87-4eea-40e2-9522-fb4563ec9b2c/d48cb32e6dd1d52c.png?x-oss-process=image/resize,m_lfit,w_400,h_400/format,webp)
AI可可AI生活 · 6 月 9 日 · 29 分钟
你有没有想过,AI不仅会犯错,犯错时还分“执迷不悟”和“一路迷茫”两种性格?我们想给AI“开小灶”教点新东西,最有效的方法竟然是发出比主信号弱一千倍的“悄悄话”。本期节目,我们将一起钻进AI的大脑,看看它是如何通过“搭便车”学坏,如何被装上一个“精打细算”的省钱脑子,以及我们该如何用几何“画圈”的方式,真正看懂它的所思所想。准备好了吗?让我们马上出发!
AI“学坏”,竟然是因为一个“搭便车”的坏习惯?
AI犯错,也分“执迷不悟”和“一路迷茫”?
AI进阶的艺术,如何给它开个“小灶”?
给AI装一个“省钱”的脑子
AI的“脑补”和我们的“理解”,中间差了什么?
本期介绍的几篇论文:
[CL] The Piggyback Hypothesis of Generalization: Explaining and Mitigating Emergent Misalignment
[Northeastern University & Stanford University]
https://arxiv.org/abs/2606.06667
---
[CL] How Language Models Fail: Token-Level Signatures of Committed and Persistent Reasoning Failures
[Stanford University]
https://arxiv.org/abs/2606.06635
---
[LG] TALAN: Task-Aligned Latent Adaptation Networks for Targeted Post-Training of Large Language Models
[Meta AI]
https://arxiv.org/abs/2606.06902
---
[LG] Towards Tight Bounds for Streaming Attention
[MIT]
https://arxiv.org/abs/2606.07205
---
[LG] A Geometric View for Understanding Concept Learning and Neuron Interpretation in Sparse Autoencoders
[University of Washington]
https://arxiv.org/abs/2606.07007
说明里标出的时间点,点一下跳过去

https://feed.xyzfm.space/wl9t7httkfd3复制内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

11 月 10 日 · 26 分钟

[人人能懂AI前沿] 3D持续打磨、多智能体博弈与微米级控制
11 月 9 日 · 24 分钟

[人人能懂AI前沿] 从元技能提炼、对抗性推理到物理世界的“柔性破界”
11 月 8 日 · 23 分钟