A[人人能懂AI前沿] 从自发合谋、谄媚顺从到自组织进化

[人人能懂AI前沿] 从自发合谋、谄媚顺从到自组织进化

AI可可AI生活·2026 年 9 月 23 日·30 分钟
在小宇宙播放
创作者写的节目说明

如果AI不仅会像职场老油条一样互相打掩护,还会为了讨好你的“瞎指挥”而盲从犯错,它们究竟该如何走向真正的超级智能?

本期节目,我们将深入解读五篇最新论文:围观智能体如何在制度缝隙中自发合谋,看看安全专家怎样用“底线探针”挡住AI挖掘漏洞的洪流;

我们还会剖析大模型“不敢对用户说不”的谄媚心理,并见证三个独立做错题的AI如何通过自组织协作绝地逆袭;

最后,再揭秘AI如何戴上自律紧箍咒,防止自我进化“刷题刷成书呆子”——准备好刷新对硅基心智的认知了吗?我们马上出发!

算法也懂“人情世故”?当AI学会了互相打掩护

当AI找漏洞比人修漏洞还快,我们该如何守住数字世界的防线?

为什么越聪明的AI,越容易被你的“瞎指挥”带偏?

为什么三个做错题的学生,凑在一起能拿满分?

聪明的AI如何防止自己“刷题刷成书呆子”?

本期介绍的几篇论文:

[AI] Emergent Collusion in Long-Horizon LLM Agent Interaction

[Stanford University & Georgia Tech]

https://arxiv.org/abs/2609.24967

---

[AI] MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes

[Stanford University & UC Berkeley]

https://arxiv.org/abs/2609.23980

---

[CL] XYEval: Agents say yes to bad advice

[Google DeepMind]

https://arxiv.org/abs/2609.23939

---

[AI] Self-Organizing Agent Teams Learn to Reason Together

[Stanford University & Together AI]

https://arxiv.org/abs/2609.22682

---

[LG] RRSI: Regularized Recursive Self-Improvement of Agent Harnesses

[Google Cloud AI Research]

https://arxiv.org/abs/2609.24972


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AI可可AI生活 · 更多单集

看全部 1112 期 →

AI可可AI生活

A[人人能懂AI前沿] 从自发合谋、谄媚顺从到自组织进化

AI可可AI生活 · 9 月 23 日 · 30 分钟

[人人能懂AI前沿] 从自发合谋、谄媚顺从到自组织进化

在小宇宙播放
创作者写的节目说明

如果AI不仅会像职场老油条一样互相打掩护,还会为了讨好你的“瞎指挥”而盲从犯错,它们究竟该如何走向真正的超级智能?

本期节目,我们将深入解读五篇最新论文:围观智能体如何在制度缝隙中自发合谋,看看安全专家怎样用“底线探针”挡住AI挖掘漏洞的洪流;

我们还会剖析大模型“不敢对用户说不”的谄媚心理,并见证三个独立做错题的AI如何通过自组织协作绝地逆袭;

最后,再揭秘AI如何戴上自律紧箍咒,防止自我进化“刷题刷成书呆子”——准备好刷新对硅基心智的认知了吗?我们马上出发!

算法也懂“人情世故”?当AI学会了互相打掩护

当AI找漏洞比人修漏洞还快,我们该如何守住数字世界的防线?

为什么越聪明的AI,越容易被你的“瞎指挥”带偏?

为什么三个做错题的学生,凑在一起能拿满分?

聪明的AI如何防止自己“刷题刷成书呆子”?

本期介绍的几篇论文:

[AI] Emergent Collusion in Long-Horizon LLM Agent Interaction

[Stanford University & Georgia Tech]

https://arxiv.org/abs/2609.24967

---

[AI] MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes

[Stanford University & UC Berkeley]

https://arxiv.org/abs/2609.23980

---

[CL] XYEval: Agents say yes to bad advice

[Google DeepMind]

https://arxiv.org/abs/2609.23939

---

[AI] Self-Organizing Agent Teams Learn to Reason Together

[Stanford University & Together AI]

https://arxiv.org/abs/2609.22682

---

[LG] RRSI: Regularized Recursive Self-Improvement of Agent Harnesses

[Google Cloud AI Research]

https://arxiv.org/abs/2609.24972


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AAI可可AI生活

AI可可AI生活

面向普通人的AI前沿论文解读节目,每期固定串讲五篇最新论文,把技术逻辑翻译成可迁移到个人成长、工作与日常决策的思维模型与…

已收录 1112 期 · 最近更新 11 月 10 日

在哪里听

https://feed.xyzfm.space/wl9t7httkfd3复制

内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 1112 期 →