同一模型,换一种取样温度
先走 A 或 B,再选 0 或 1。只改温度 T,观察完整结果的频率怎样改变;模型中的原始概率保持固定。
改变采样规则,不重新训练。
前一步选中什么,后一步就以它为条件
重复抽样接近哪一个分布?
理论概率6,000 次抽样频率
贪心选择与完整序列 MAP,是两个问题
| 怎么取一个结果 | 结果 | 它在当前分布的概率 |
|---|
贪心每步取当前条件下最常见的一项;完整序列 MAP 比较四个联合概率,再选最大的一项。逐步调温会改变完整序列之间的相对频率,低温也不等于找到原模型的 MAP。
本次对照的数据
| 序列 | 原模型概率 | 当前理论概率 | 抽样次数 | 抽样频率 |
|---|
计算怎样与 Notebook 对应?
每个前缀处分别使用 qT(i) ∝ p(i)1/T,先归一化,再相乘得到四个联合概率。这和对四个联合概率整体调温不同。
固定原始模型:第一步 A = 0.60、B = 0.40;选 A 后 0 = 0.51、1 = 0.49;选 B 后 0 = 0.99、1 = 0.01。
本页直接调用已核对的 共享计算模块。T = 0.35、1、2 时,理论概率与 6,000 次抽样计数都与 Notebook 保存结果一致。