同一模型,换一种取样温度

先走 A 或 B,再选 0 或 1。只改温度 T,观察完整结果的频率怎样改变;模型中的原始概率保持固定。

T = 1.00
改变采样规则,不重新训练。

前一步选中什么,后一步就以它为条件

边上的 q 是当前温度调整后的条件概率;括号内 p 是固定的原始值。完整序列概率等于沿途两项 q 相乘。

重复抽样接近哪一个分布?

理论概率6,000 次抽样频率
每次调整都复用种子 20260928 和同一随机流。柱形差距是有限抽样的波动,样本没有精确复写理论概率。

贪心选择与完整序列 MAP,是两个问题

怎么取一个结果结果它在当前分布的概率

贪心每步取当前条件下最常见的一项;完整序列 MAP 比较四个联合概率,再选最大的一项。逐步调温会改变完整序列之间的相对频率,低温也不等于找到原模型的 MAP。

本次对照的数据

序列原模型概率当前理论概率抽样次数抽样频率
查看 Notebook 保存结果
计算怎样与 Notebook 对应?

每个前缀处分别使用 qT(i) ∝ p(i)1/T,先归一化,再相乘得到四个联合概率。这和对四个联合概率整体调温不同。

固定原始模型:第一步 A = 0.60、B = 0.40;选 A 后 0 = 0.51、1 = 0.49;选 B 后 0 = 0.99、1 = 0.01。

本页直接调用已核对的 共享计算模块。T = 0.35、1、2 时,理论概率与 6,000 次抽样计数都与 Notebook 保存结果一致。