混合专家模型（MoE）：超大语言模型的省力窍门
DeepSeek-V4-Pro 有 1.6 万亿参数，每个词只用 490 亿。MoE 怎么工作、代价是什么，以及什么时候稠密模型更合适。
- 人工智能
- 大语言模型
- 深度学习
- 机器学习
博客
新闻解读、学习日记，以及用真实物理分析的虚构作品。
MoE 的误解：专家其实不是专家
它们不懂医学，也不是八个模型拼在一起。用 Mixtral、OpenMoE 等研究的实测结果，拆穿关于混合专家模型的六个误解。
- 人工智能
- 大语言模型
- 深度学习
《钢之炼金术师》的炼金术，在现实中能实现吗？
土墙、钢枪、黄金和人：用真实物理算一算《钢之炼金术师》里每种炼成的代价，今天能做到什么，以及为什么真正的问题是时间。
- 钢之炼金术师
- 动漫
- 物理
- 化学
- 热力学
- 纳米科学
- 能量
- 核物理
为什么会有 King of Dumbs？
这个网站是什么，为什么每节课都要讲三遍，一直陪着你的小丑是谁，以及接下来会讲什么：人工智能、数据、量子物理和纳米科学。每个数字都有出处。
- 关于本站
- 人工智能
- 量子
- 纳米科学