A中美大厂研究员深度剖析:DeepSeek大模型蒸馏与RLHF技术技术解析

中美大厂研究员深度剖析:DeepSeek大模型蒸馏与RLHF技术技术解析

AI Odyssey·2025 年 3 月 25 日·59 分钟
在小宇宙播放
创作者写的节目说明

主播的话:

欢迎收听本期AI Odyssey节目。DeepSeek凭借其出色的性能和创新的技术路线在AI领域引起广泛关注。作为国内新兴的开源大模型,它在多项基准测试中表现优异,引发了业内对其背后技术实现的好奇。正因如此,我们特意邀请了三位AI领域的一线专家——投资人CW,美团首席工程师奚辰光,以及专注于大模型优化的GenAI研究员Tianyi,共同解析DeepSeek模型的技术创新点,特别是在训练成本优化、数据蒸馏和RLHF等方面的突破。通过这次对话,我们希望为听众揭开高性能开源模型背后的技术思路,也期待探讨大模型未来的发展方向。

嘉宾介绍:

  • CW:国内机构投资人,关注AI/Robotics。
  • 奚辰光:奚辰光,美团首席工程师
  • Tianyi:美国大厂的GenAI研究员,从事高性能AI,自动化人工智能,大模型后训练和知识蒸馏。

主播介绍:

  • Leo:硅谷大厂高级机器学习工程师,GenAI LLM发烧友

shownote:

嘉宾自我介绍

DeepSeek 如何降低训练成本

数据蒸馏 vs 传统蒸馏的区别

训练数据的获取与质量优化

大模型的竞争格局与未来发展

蒸馏与小模型训练策略

Scaling Law 的未来趋势

Moe (Mixture of Experts) 在大模型中的应用

AI 的跨模态能力与未来发展

强化学习 (RL) 在大模型优化中的应用

AI 未来的发展方向与盈利模式

32:63 Efficiency 研究方向:降低 AI 成本

AI 代理 (Agent) 时代的到来

未来 AI 企业将如何调整盈利策略

PS:AI Odyssey 听友群正式开通了,添加 vx:aiodysseyai 带你一起看 AI。

以上就是本期的全部内容了,欢迎您的收听,我们下期再见~


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AI Odyssey · 更多单集

看全部 66 期 →

AI Odyssey

A中美大厂研究员深度剖析:DeepSeek大模型蒸馏与RLHF技术技术解析

AI Odyssey · 2025 年 3 月 25 日 · 59 分钟

中美大厂研究员深度剖析:DeepSeek大模型蒸馏与RLHF技术技术解析

在小宇宙播放
创作者写的节目说明

主播的话:

欢迎收听本期AI Odyssey节目。DeepSeek凭借其出色的性能和创新的技术路线在AI领域引起广泛关注。作为国内新兴的开源大模型,它在多项基准测试中表现优异,引发了业内对其背后技术实现的好奇。正因如此,我们特意邀请了三位AI领域的一线专家——投资人CW,美团首席工程师奚辰光,以及专注于大模型优化的GenAI研究员Tianyi,共同解析DeepSeek模型的技术创新点,特别是在训练成本优化、数据蒸馏和RLHF等方面的突破。通过这次对话,我们希望为听众揭开高性能开源模型背后的技术思路,也期待探讨大模型未来的发展方向。

嘉宾介绍:

  • CW:国内机构投资人,关注AI/Robotics。
  • 奚辰光:奚辰光,美团首席工程师
  • Tianyi:美国大厂的GenAI研究员,从事高性能AI,自动化人工智能,大模型后训练和知识蒸馏。

主播介绍:

  • Leo:硅谷大厂高级机器学习工程师,GenAI LLM发烧友

shownote:

嘉宾自我介绍

DeepSeek 如何降低训练成本

数据蒸馏 vs 传统蒸馏的区别

训练数据的获取与质量优化

大模型的竞争格局与未来发展

蒸馏与小模型训练策略

Scaling Law 的未来趋势

Moe (Mixture of Experts) 在大模型中的应用

AI 的跨模态能力与未来发展

强化学习 (RL) 在大模型优化中的应用

AI 未来的发展方向与盈利模式

32:63 Efficiency 研究方向:降低 AI 成本

AI 代理 (Agent) 时代的到来

未来 AI 企业将如何调整盈利策略

PS:AI Odyssey 听友群正式开通了,添加 vx:aiodysseyai 带你一起看 AI。

以上就是本期的全部内容了,欢迎您的收听,我们下期再见~


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AAI Odyssey

AI Odyssey

面向AI产业从业者与关注者的深度访谈播客,聚焦AI技术瓶颈、产业格局与商业逻辑,兼顾人才与心理健康等应用层议题。

已收录 66 期 · 最近更新 10 月 15 日

在哪里听

https://feed.xyzfm.space/ljxhjflbvkf7复制

内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 66 期 →