A
11 月 10 日 · 26 分钟
A
AI可可AI生活 · 2024 年 8 月 18 日 · 7 分钟
「大模型的“魔力”之源」第三集：Softmax的魔力——从分类到生成
「大模型的“魔力”之源」是一个6集的系列，一起探索大模型的强大之谜！
本期要点：
- Softmax函数将神经网络的输出转化为概率分布,是分类任务的核心
- 在大模型中,Softmax被创新性地应用于文本生成任务
- 通过Softmax,大模型可以基于上下文生成下一个最可能的单词,从而实现了文本生成
- 采样策略的选择对生成质量有很大影响,如温度参数、Top-k采样等
- 结束语:Softmax的魔力在于将离散的分类扩展到了连续的生成,为大模型开启了全新的应用空间
在小宇宙查看该单集文稿
A
在哪里听
https://feed.xyzfm.space/wl9t7httkfd3复制内容版权归创作者，声湃按创作者开放的 RSS 收录。了解收录与 RSS →
更多单集 全部 1112 期 →
A
11 月 10 日 · 26 分钟
A
[人人能懂AI前沿] 3D持续打磨、多智能体博弈与微米级控制
11 月 9 日 · 24 分钟
A
[人人能懂AI前沿] 从元技能提炼、对抗性推理到物理世界的“柔性破界”
11 月 8 日 · 23 分钟