从数据到损失——MLE 与 MAP

上一课我们建立了贝叶斯三件套：先验（动手前对参数的信念）、似然（参数对数据的解释力）、后验（看完数据后更新的信念）。这一课我们把它们用起来，回答一个训练神经网络时天天遇到、却很少被讲清的问题：损失函数到底是从哪儿冒出来的？为什么回归用 MSE、分类用交叉熵，而不是别的式子？答案出奇地干净——你只要写下"数据是怎么生成的"这一个假设，损失函数就被唯一地推导出来了，不是凑的。

一、似然：把"参数"当成"对数据的解释力"

先建立一个最基本的视角转换。在贝叶斯那一课，\(p(x\mid\theta)\) 我们读作"给定参数 \(\theta\)，数据 \(x\) 的取值情况"——这时 \(x\) 是变量，\(\theta\) 固定。现在反过来：数据 \(x\) 已经摆在桌上（已经观测到了，是常数），我们让 \(\theta\) 变化，问"哪个 \(\theta\) 让这批数据显得最不意外？"

真正让似然好用的，是一个朴素到容易被忽略的建模假设——i.i.d.（独立同分布，independent and identically distributed）：我们假设 \(n\) 个样本 \(x_1,\dots,x_n\) 是从同一个分布里各自独立抽出来的。独立 ⇒ 联合概率等于各自概率连乘；同分布 ⇒ 每个 \(p\) 用同一个 \(\theta\)。于是整批数据的似然就是一长串乘积：

把它当成 \(\theta\) 的函数画出来，通常是一条有单峰的曲线：某个 \(\theta\) 处似然最大，那就是最能解释数据的参数。

二、MLE：站到似然曲线的峰顶

最大似然估计（Maximum Likelihood Estimation, MLE）就是字面意思——挑出让似然最大的那个参数：

但这个连乘很难直接优化：成百上千个介于 0 和 1 之间的小数相乘，结果会小到计算机直接下溢成 0（比如 \(0.1^{400}\) 在浮点里就是 0，连数值本身都存不下来，更别说在它上面做优化）。解决办法是取对数。

为什么取对数是"免费的好处"

对数 \(\ln\) 有两个性质，恰好治好连乘的所有毛病：

• 把连乘变连加：\(\ln\prod_i a_i=\sum_i\ln a_i\)。连加不会下溢，且每一项独立，天然适合按样本/按 batch 累加——这正是训练时 loss 对 batch 求和的由来。
• 单调递增，不改变峰的位置：\(\ln\) 是严格单调函数，所以 \(\arg\max L(\theta)=\arg\max \ln L(\theta)\)。峰移不了，只是曲线被"压平"得更好优化（见下图）。

于是定义对数似然 \(\ell(\theta)=\ln L(\theta)=\sum_i\ln p(x_i\mid\theta)\)。优化里习惯"最小化"而非"最大化"，再加个负号，得到本课的主角——负对数似然（Negative Log-Likelihood, NLL）：

三、高斯噪声假设 → MSE（最小二乘）

现在做一个回归任务。假设标签由某个函数 \(f(x)\)（比如线性模型 \(f(x)=w^\top x\)）加上高斯噪声生成：

这句假设的现实含义是：模型的预测 \(f(x_i)\) 是"真值"，实际观测在它周围呈钟形抖动，离得越远越罕见。把它代进 NLL（先只看权重 \(\theta\) 这个参数，把 \(\sigma\) 当成已知常数；为什么能这样，下面立刻交代）：

常数项不影响 \(\arg\min\)，\(1/(2\sigma^2)\) 是正的缩放因子也不影响最优 \(\theta\) 的位置，全部丢掉：

四、伯努利 / 类别假设 → 交叉熵

换成二分类。每个标签 \(y_i\in\{0,1\}\)，模型吐出"预测为 1 的概率" \(\hat y_i=\hat y_i(\theta)\in(0,1)\)。这等于假设 \(y_i\) 服从伯努利分布 \(\mathrm{Bernoulli}(\hat y_i)\)（这里 \(y\) 离散，\(p\) 是真概率，不是密度）。伯努利的概率可以写成一个紧凑的式子（指数当开关）：

取负对数并对样本求和：

这正是二元交叉熵（binary cross-entropy）。推广到 \(K\) 类（Categorical 分布），把真实标签写成 one-hot 向量 \(y_i\)（只有正确类是 1），预测为概率向量 \(\hat y_i\)，得到逐点交叉熵：

五、MAP：给似然配上先验

MLE 只听数据的，这在数据少时很危险。极端例子：投 3 次硬币全是正面，MLE 笃定地宣布 \(\hat p=3/3=1\)（"这枚硬币永远不会出反面"）。这显然过拟合了——它把"恰好没观测到"当成了"不可能"。我们需要把"先验信念"（硬币大概接近公平）加回来。

这就是上一课的后验 ∝ 似然 × 先验。最大后验估计（Maximum A Posteriori, MAP）取的是后验的峰，而不是似然的峰：

分母 \(p(\text{data})\) 不含 \(\theta\)，求 \(\arg\max\) 时可丢弃。照例取对数把乘积拆成加法：

看右边这个式子：它就是 "原损失 + 一个只跟参数有关的额外项"。先验把后验的峰从似然峰往先验中心拉了一点——数据越少，似然越"软"，先验拉得越动；数据越多，似然越尖，先验几乎拉不动（数据淹没先验）。这正是我们想要的行为。

六、先验 = 正则项：把"权重衰减"看穿

现在揭开一个让很多人恍然大悟的等价关系。回到高斯线性回归，给权重 \(w\) 加一个零均值高斯先验 \(w_j\sim\mathcal{N}(0,\tau^2)\)，意思是"我事先相信权重应该小、应该靠近 0"。它的负对数为

代入 MAP 目标（NLL 是高斯的 \(\tfrac{1}{2\sigma^2}\sum(y_i-w^\top x_i)^2\)），整理出

换个先验就换个正则。拉普拉斯先验 \(p(w_j)\propto\exp(-|w_j|/b)\)（形状是0 处一个尖顶、两侧重尾）的负对数是 \(\frac1b\sum_j|w_j|\)，于是

七、小样本的陷阱与拉普拉斯平滑

MLE 在小样本下会"自信地犯错"。设想用词频估计一个 3 类分布，观测计数为 \([8,0,2]\)：第 2 类恰好没出现。MLE 给出概率 \([0.8,\,0,\,0.2]\)——它断言第 2 类概率为 0，永远不可能出现。一旦测试集真的来了一个第 2 类样本，交叉熵 \(-\ln 0=+\infty\)，模型彻底崩溃。

救法就是 MAP：给类别分布配一个对称的狄利克雷先验（相当于"假装每类先各看到 \(\alpha\) 个样本"），MAP 解变成

这就是拉普拉斯平滑（Laplace / add-one smoothing，\(\alpha=1\)）。对上面的例子：\([8,0,2]\to[\tfrac{9}{13},\tfrac{1}{13},\tfrac{3}{13}]\approx[0.69,0.08,0.23]\)——那个危险的 0 被先验抬离了零点，模型不再"把没见过当成不可能"。注意这和第五节"3 投全正→拉回 0.8"是同一件事的两面：先验既不让概率冲到 1，也不让它塌到 0。

调一调，观察现象

下面每个小实验都只改一个量，先猜结果，再运行验证。所有代码只用 numpy + print，几秒跑完。

import numpy as np
rng = np.random.default_rng(0)
for n in [20, 200, 2000]:
    data = (rng.random(n) < 0.3).astype(float)
    p = np.linspace(0.01, 0.99, 99)
    ll = np.array([(data*np.log(pi)+(1-data)*np.log(1-pi)).sum() for pi in p])
    pk = p[ll.argmax()]
    # 用"峰附近高出 1 个单位的宽度"粗略量峰的尖锐度（越小越尖、越确定）
    width = (ll >= ll.max()-1.0).sum()
    print(f"n={n:5d}  argmax p={pk:.3f}  k/n={data.mean():.3f}  峰宽(格数)={width}")

import numpy as np
rng = np.random.default_rng(1)
N, d = 60, 5
X = rng.normal(size=(N, d)); w_true = rng.normal(size=d)
y = X @ w_true + rng.normal(0, 0.5, size=N)
for lam in [0.0, 1.0, 10.0, 100.0]:
    w = np.linalg.solve(X.T@X + lam*np.eye(d), X.T@y)
    print(f"lam={lam:6.1f}  ||w||={np.linalg.norm(w):.3f}")

import numpy as np
counts = np.array([8, 0, 2]); K = len(counts); N = counts.sum()
p_mle = counts / N
p_smooth = (counts + 1) / (N + K)          # 拉普拉斯平滑 alpha=1
print("MLE   :", np.round(p_mle, 3))
print("smooth:", np.round(p_smooth, 3))
# 测试样本恰好属于第 2 类（索引1）
with np.errstate(divide='ignore'):
    print("CE(MLE, 第2类)   =", -np.log(p_mle[1]))     # inf
print("CE(smooth, 第2类)=", round(-np.log(p_smooth[1]), 3))

动手练习

1. 网格验证伯努利 MLE。合成 n=300 的伯努利数据（真值 0.3），在 0.01–0.99 上扫描对数似然，print 出网格 argmax 与 k/n，确认两者一致（到网格精度）。

   import numpy as np
   rng = np.random.default_rng(0)
   data = (rng.random(300) < 0.3).astype(float)
   p = np.linspace(0.01, 0.99, 99)
   ll = np.array([(data*np.log(pi)+(1-data)*np.log(1-pi)).sum() for pi in p])
   print("grid argmax =", round(p[ll.argmax()],3), "  k/n =", round(data.mean(),3))
   

2. 验证高斯 MLE \(\hat\mu=\) 样本均值。合成 n=300 的 \(\mathcal N(\mu=2,\sigma^2)\) 数据，在 \(\mu\) 网格上扫描对数似然，确认网格 argmax 与 data.mean() 一致（到网格精度）。这就是 goals 里承诺的"\(\hat\mu=\) 样本均值"的可跑验证。

   import numpy as np
   rng = np.random.default_rng(7)
   data = rng.normal(2.0, 1.0, size=300)
   mu = np.linspace(0.0, 4.0, 401)
   # 高斯对数似然去掉与 mu 无关的常数后 ∝ -Σ(y-mu)^2
   ll = np.array([-((data - m)**2).sum() for m in mu])
   print("grid argmax =", round(mu[ll.argmax()],3), "  mean =", round(data.mean(),3))
   

3. MLE 闭式解 vs 正规方程解。合成线性回归数据，分别用 np.linalg.solve(X.T@X, X.T@y)（正规方程）和 np.linalg.lstsq(X, y)（最小二乘/MLE），print 两组权重并用 np.allclose 验证它们数值一致。

   import numpy as np
   rng = np.random.default_rng(2)
   N = 100
   X = np.column_stack([np.ones(N), rng.normal(size=N), rng.normal(size=N)])
   y = X @ np.array([1.0,-2.0,0.5]) + rng.normal(0,0.5,size=N)
   w_ols = np.linalg.solve(X.T@X, X.T@y)
   w_mle = np.linalg.lstsq(X, y, rcond=None)[0]
   print("OLS:", np.round(w_ols,4))
   print("MLE:", np.round(w_mle,4))
   print("一致?", np.allclose(w_ols, w_mle))
   

4. 把 L2 正则拼出来。在上一题基础上加入 lam*I，实现岭回归闭式解 solve(X.T@X+lam*I, X.T@y)。验证 lam=0 时回到 OLS，lam 增大时 ||w|| 单调减小。
5. （推导题）泊松 MLE。设 \(x_i\sim\mathrm{Poisson}(\lambda)\)，\(p(x\mid\lambda)=e^{-\lambda}\lambda^{x}/x!\)。写出对数似然，对 \(\lambda\) 求导置零，证明 \(\hat\lambda=\) 样本均值。（提示：\(\ell(\lambda)=-n\lambda+(\sum_i x_i)\ln\lambda-\sum_i\ln(x_i!)\)，与本课的高斯/伯努利例题同套路。）
6. （思考题）如果你把回归的 MSE 换成平均绝对误差（MAE，\(\sum|y_i-f(x_i)|\)），这对应假设标签噪声服从哪种分布？（提示：哪种分布的负对数密度长成 \(|y-\mu|\)？回看第六节拉普拉斯先验那个"0 处尖顶"的形状。）

掌握自检

• 有人问"为什么回归用 MSE"，你能在 30 秒内从"高斯噪声假设 → NLL → 去常数（含归一化因子 \(1/\sqrt{2\pi\sigma^2}\)）"讲到 MSE，而不是只说"因为它是距离"。
• 给你一个数据生成假设 \(p(x\mid\theta)\)，你能机械地写出对应损失：取 \(\ln\)、加负号、对样本求和。
• 你能说清"离散标签里 \(p\) 是概率、连续标签里 \(p\) 是密度（可>1、单点概率为 0）"，以及这为什么让 MSE 能丢掉归一化常数。
• 你能解释 \(\lambda\|w\|_2^2\) 里的 \(\lambda\) 在贝叶斯视角下是什么（\(\sigma^2/\tau^2\)，噪声与先验方差之比），以及它变大时几何上发生什么（先验"碗"变陡）。
• 你能用"惩罚梯度在 0 附近衰不衰减"解释为什么 L1 稀疏（梯度恒定→推到 0）而 L2 不稀疏（梯度趋 0→只压小）。
• 你能说出 MLE 在什么时候会出事（小样本 / 零计数），以及 MAP（拉普拉斯平滑）如何补救，并写出 \(\hat p_c=(n_c+\alpha)/(N+\alpha K)\)。
• 你能区分"丢常数只在求 argmax 时合法"和"似然本身的数值不能乱丢常数"。

下一课预告：我们已经看到 NLL 神奇地"长成"了各种损失。下一课用信息论（熵、交叉熵、KL 散度）从根上解释"损失为什么长这样"，并把这一课的"最小化 NLL"、信息论的"最小化交叉熵"、以及"让模型分布逼近数据分布（最小化 KL）"三条线汇合证明成同一件事；那里会专门讲清 KL 散度不对称（forward 与 reverse KL 不是一回事）这个关键直觉。