新手
想象一屋子的小投票者。每个人只看照片的一小块，看到喜欢的东西（尖耳朵、胡须）就喊得更大声。喊的人够多，整个屋子就判定"猫"。学习，就是教他们该听谁的。
一个概念，三张牌
每节课都有三个难度。选一次你的牌，网站会记住。
例子：神经网络是怎么认出一只猫的？
进阶
每个神经元把输入乘以权重、求和、加上偏置，再经过激活函数。各层串联：前面的层识别边缘，后面的识别形状，最后一层识别"猫"。训练就是调整权重来减少误差。
技术
| ♦ 里的说法 | ♠ 里的写法 |
|---|---|
| 一层的权重和偏置 | W⁽ˡ⁾, b⁽ˡ⁾ |
| 一层的输出，也是下一层的输入 | h⁽ˡ⁾ |
| 乘以权重、求和、加上偏置 | 仿射：W⁽ˡ⁾h⁽ˡ⁻¹⁾ + b⁽ˡ⁾ |
| 激活函数 | σ，即非线性函数 |
| 误差 | L，即损失 |
| 动一下某个权重，误差变化多少 | ∂L/∂W，用链式法则求（反向传播） |
| 调整权重来减少误差 | W ← W − η∇L（η：步长） |
| 耗时与权重数量成正比 | O(参数量) |
h⁽ˡ⁾ = σ(W⁽ˡ⁾h⁽ˡ⁻¹⁾ + b⁽ˡ⁾)
网络是仿射变换与非线性函数的复合。反向传播用链式法则以 O(参数量) 求出 ∂L/∂W，优化器更新 W ← W − η∇L。没有 σ，整个网络会退化成一个线性变换。
博客最新文章
混合专家模型（MoE）：超大语言模型的省力窍门
DeepSeek-V4-Pro 有 1.6 万亿参数，每个词只用 490 亿。MoE 怎么工作、代价是什么，以及什么时候稠密模型更合适。
- 人工智能
- 大语言模型
- 深度学习
- 机器学习
MoE 的误解：专家其实不是专家
它们不懂医学，也不是八个模型拼在一起。用 Mixtral、OpenMoE 等研究的实测结果，拆穿关于混合专家模型的六个误解。
- 人工智能
- 大语言模型
- 深度学习
《钢之炼金术师》的炼金术，在现实中能实现吗？
土墙、钢枪、黄金和人：用真实物理算一算《钢之炼金术师》里每种炼成的代价，今天能做到什么，以及为什么真正的问题是时间。
- 钢之炼金术师
- 动漫
- 物理
- 化学
- 热力学
- 纳米科学
- 能量
- 核物理
为什么会有 King of Dumbs？
这个网站是什么，为什么每节课都要讲三遍，一直陪着你的小丑是谁，以及接下来会讲什么：人工智能、数据、量子物理和纳米科学。每个数字都有出处。
- 关于本站
- 人工智能
- 量子
- 纳米科学
想找点什么？
按内容类型和主题筛选。
课程
第一节课已经上线。接下来是人工智能、数据、量子和纳米科学，配有可以动手玩的互动组件。
电脑怎样把照片变成数字？
一张照片就是几千万个数，人工智能对它做的几乎全是乘法和加法。分三个层次讲向量、点积和矩阵，配两个互动小工具。
- 数学
- 人工智能
钻石为什么不会变成石墨？
拆开化学键要花能量，形成化学键会放出能量，但几乎所有反应都得先翻过一座小山。钻石为什么能长存，水为什么能当电池，配互动小工具。
- 化学
- 能量
- 热力学