[区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-title) # 它要同时记住任务，以及自己已经说了什么 王德泉 · Coding with AI · Lecture 04 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-e5f0172dd207) 原条件是一张红杯照片，草稿却已经写成“桌上是一只蓝色的……”。继续接“杯子”完全通顺，但句子会把先前的颜色错误延续下去。局部语言关系正确，没有补救它与图像条件的冲突。 [课程图解] 杯子一词接得顺，却延续了蓝色与红杯照片之间的冲突。；图中标签与关系：图像条件始终保留 已写前缀 桌上是一只 蓝色的 杯子 回看条件：这里是红杯 杯子一词接得顺，却延续了蓝色与红杯照片之间的冲突。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-96c619ab6913) 这里有两类来源不同的信息。照片、用户问题和格式要求是外部条件，规定这次要完成什么；已写前缀记录本次生成已经作出的选择。后续既要读懂已有句子，也要遵守原任务。照片始终在上下文里，只说明模型可以访问它，不证明它实际用对了颜色线索；是否使用仍要从输出与受控对照检查。当两者冲突时，不能仅因为蓝色已经写下，就把它升级为事实。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-85a4fc65e338) **“下一词只能往后接，怎样把蓝色改掉？”** 单纯追加“杯子”确实改不了前面的词。修订需要一个能回看并修改草稿的过程：发现颜色与照片不符，定位到“蓝色”，再将它改成“红色”。这可以由生成系统的另一轮检查或编辑步骤完成；不能把画面中的修订当成普通逐词追加自动具备的能力。 [课程图解] 纠正蓝色需要回看原条件并修改草稿，这是一项明确的修订过程。；图中标签与关系：图像条件始终保留 已写前缀 桌上是一只 红色的 杯子 回看条件：这里是红杯 修订“蓝色” → “红色” L05：怎样找回需要的上下文？ 纠正蓝色需要回看原条件并修改草稿，这是一项明确的修订过程。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-3ea049e24eb8) 一个最小对照能帮助分清两类条件：保留同样的蓝色前缀，只把输入照片换成蓝杯，句子就不再违反这一颜色要求。任务输入变了，应该改变评价；反过来，保持红杯照片不变，仅让草稿更流畅，不会改变最初的颜色证据。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-f46a87eaed6f) 这也引出生成目标与网络结构的分工。自回归规定按已有部分预测后续；RNN、卷积或注意力等结构则决定怎样保存和访问上下文。相同目标可以由不同结构实现，架构名本身不保证模型找到了正确线索。L05 会继续讨论相关信息怎样被找到、如何受干扰，以及生成系统怎样管理上下文。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-69cd1fc86d07) 至此，我们看过一条逐步接龙的路线。接下来换一种出发方式：先给一个紧凑起点，再整体解码出对象。会还原一把已有椅子，是否足以证明这种生成入口已经成立？ [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-states) ## 画面怎样推进 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-b0) 红杯照片与前缀中的蓝色冲突，任务依据仍应参与判断。 [返回这一课堂停点](https://codingai-lec04.pages.dev/classroom/N14.html?step=b0) [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-b1) 继续接杯子可以局部通顺，却沿用了颜色错误。 [返回这一课堂停点](https://codingai-lec04.pages.dev/classroom/N14.html?step=b1) [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-b2) 回看条件并把蓝色修订为红色，需要能修改草稿的过程；普通追加不会自动完成修订。 [返回这一课堂停点](https://codingai-lec04.pages.dev/classroom/N14.html?step=b2) [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-materials) ## 继续阅读与实验 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-learning-unit-001) ### 接住前缀，与服从照片，怎样分别检验？ [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-learning-unit-002) 固定草稿“桌上是一只蓝色的”，先配红杯照片，再配蓝杯照片。接上“杯子”在两组里都通顺，颜色条件却只有第二组成立。这个对照把语言接续与图像条件区分开：同一前缀可以是生成进度，也可能含有应被纠正的早期错误。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-learning-unit-003) 在红杯组里，继续追加词语不能改掉已写的“蓝色”；需要一轮能定位并修改草稿的检查。自检：照片始终在上下文中，能否说模型已经正确使用它？只能说允许访问；还要从受控变化和结果判断是否用对。保持任务条件可见，是使用证据的前提，不是成功证明。 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-learning-unit-004) [继续读：外部条件与前缀的不同作用](https://codingai-lec04.pages.dev/lecture.html#ch02-external-condition) [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-chapter-reading) ### [CLS 02 · 自回归：学习条件与产生序列](https://codingai-lec04.pages.dev/lecture.html#ch02) 按连续正文理解这条方法的训练信号、使用过程与算例；数学与实践在相关问题旁展开。 先看：第2章，从对象和问题开始 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-lab01-practice) ### [LAB 01 · 自回归：联合概率、贪心与温度](https://codingai-lec04.pages.dev/course/notebooks/39071d41f84d4621ad69c6140a6dccc9.html) 先读本册保存结果，再按实现顺序核对一个算例；最后只改一个变量。 先看：先看保存结果与读图解释 [区块原文](https://codingai-lec04.pages.dev/course/N14.html#n14-material-1) ### [Autoregressive Models](https://mit-6s978.github.io/assets/pdfs/lec3_ar.pdf#page=53) 先分清外部条件和已生成历史，再选读架构怎样组织这些信息；后者是L05的预备阅读。 先看：第53–57页：条件；第67页起：序列架构