
<a id="n17-title"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-title)


# 两种合理结果，平均起来可能哪一种都不像

王德泉 · Coding with AI · Lecture 04


<a id="n17-7642a4ad545f"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-7642a4ad545f)

题目没有固定椅子在画面里的位置，因此左侧一把完整椅子成立，右侧一把完整椅子也成立。现在逐像素平均这两幅图：左边保留一半椅子的颜色，右边也保留一半，结果是两份半透明重影。它在数字上做了折中，却没有选择一把完整椅子的位置。


<a id="n17-fa7e2d9451db"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-fa7e2d9451db)

这解释了为什么“接近所有参考答案”与“交出一个合理样本”可能冲突。平均图不是把一把椅子平稳移到中间，而是在每个像素上折中两幅图。图像里的对象结构不一定在这种平均运算下保持。


[课程图解] 像素平均留下两份半透明轮廓，取一个完整样本则保留一把结构完整的椅子。；图中标签与关系：平均：两份重影 选择：一把完整椅子 同样尺度，比较结果本身
像素平均留下两份半透明轮廓，取一个完整样本则保留一把结构完整的椅子。


<a id="n17-b5e9838e0804"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-b5e9838e0804)

一个更小的数值例子可以看清评分的作用。假设答案等概率为 −1 或 +1，只允许模型输出一个数，并用平方误差评分。输出 0 时，两种情况下误差都为 1；输出 +1 时，一半误差为 0，另一半为 4，平均误差为 2。于是这套单点评分偏好 0，但若任务要求从两个合法答案中给出一个样本，0 恰好都不是。


<a id="n17-8392c87fdd15"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-8392c87fdd15)

**“所以均值预测是错误的方法吗？”** 不是。若任务就是估计平均数量或最小化平方误差，均值可能正是合适答案；问题出在把这个答案直接当作完整候选。当多种可能路线分别绕过障碍，而平均路线穿过障碍时，也会出现相同区别：算术折中不保证保留可行性。


<a id="n17-2e2afc3c93bc"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-2e2afc3c93bc)

在固定方差高斯观测模型等条件下，像素平方误差会鼓励相应的均值行为；换观测模型、条件或生成过程，结论可以改变。不能据此断言所有 VAE 必定模糊，也不能看到扩散训练里的均值预测，就断言最终采样只能是一幅重影。N31 会专门区分预测器在当前状态给出的信息，与整个迭代过程交付的完整样本。


<a id="n17-6b136f399cc9"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-6b136f399cc9)

这里的要点是把目标说清：要一个平均估计，还是要一个满足结构的具体实现？改为从不同潜变量取完整样本后，我们还需要检查这些起点是否广泛可用。下一页看为什么一条漂亮插值路径回答不了这个问题。


<a id="n17-states"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-states)


## 画面怎样推进


<a id="n17-b0"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-b0)

位置未被条件固定，左侧与右侧的完整椅子都是允许答案。

[返回这一课堂停点](https://codingai-lec04.pages.dev/classroom/N17.html?step=b0)


<a id="n17-b1"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-b1)

逐像素平均产生两份半透明重影，没有交付一把完整椅子。

[返回这一课堂停点](https://codingai-lec04.pages.dev/classroom/N17.html?step=b1)


<a id="n17-b2"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-b2)

某种评分偏爱的平均估计未必是结构成立的样本；结论须保留相应评分与输出假设。

[返回这一课堂停点](https://codingai-lec04.pages.dev/classroom/N17.html?step=b2)


<a id="n17-materials"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-materials)


## 继续阅读与实验


<a id="n17-learning-unit-001"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-learning-unit-001)


### 平均误差最小，为什么仍不是一个合法样本？


<a id="n17-learning-unit-002"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-learning-unit-002)

让结果以相同概率取 −1 或 +1。确定地输出 0，平方误差总为 1；输出 +1，一半误差为 0、一半为 4，平均是 2。因此均值 0 确实优化了这项评分，却不属于真实结果集合。两把不同位置的椅子逐像素平均，可能得到重影，也是“数值折中没有保留样本结构”的例子。


<a id="n17-learning-unit-003"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-learning-unit-003)

自检：这是否证明均值预测都错误？不。若任务是最小化平方误差，0 正是答案；若任务是交付一次可能发生的结果，需要进一步组织分布与采样。解码器显示的均值或概率图，也应与最终观测抽样区分。不能从这个小例子推出所有 VAE 必然模糊，或扩散最后只能交付平均图。


<a id="n17-learning-unit-004"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-learning-unit-004)

[继续读：均值目标与独立样本评分](https://codingai-lec04.pages.dev/lecture.html#ch01-mse-distribution) · [解码器的观测分布](https://codingai-lec04.pages.dev/lecture.html#ch03-likelihood-not-mse)


<a id="n17-chapter-reading"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-chapter-reading)


### [CLS 03 · 潜变量：从重建到生成](https://codingai-lec04.pages.dev/lecture.html#ch03)

按连续正文理解这条方法的训练信号、使用过程与算例；数学与实践在相关问题旁展开。

先看：第3章，从对象和问题开始


<a id="n17-lab07-practice"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-lab07-practice)


### [LAB 07 · 图像 VAE：重建与可用起点](https://codingai-lec04.pages.dev/course/notebooks/6567b1168915486c8de4ab9cfea54a8e.html)

先比较原图与重建，再看同一先验起点。只改变 KL 权重，读取重建与编码区域的权衡。

先看：先看保存结果与读图解释


<a id="n17-lab02-practice"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-lab02-practice)


### [LAB 02 · VAE：ELBO 缺口与重参数化](https://codingai-lec04.pages.dev/course/notebooks/450ef87bdfb149769de691b69da7a52d.html)

先读本册保存结果，再按实现顺序核对一个算例；最后只改一个变量。

先看：先看保存结果与读图解释


<a id="n17-material-1"></a>
[区块原文](https://codingai-lec04.pages.dev/course/N17.html#n17-material-1)


### [Variational Autoencoder](https://mit-6s978.github.io/assets/pdfs/lec2_vae.pdf#page=23)

寻找高斯观测假设和平方误差的对应条件；说明为什么这一结论不能概括所有VAE或完整扩散采样。

先看：第23–28页：观测模型与重建评分