Attention 与上下文窗口

建议用时：25 分钟

学习目标

能够说明注意力如何关联上下文，并识别上下文过长、冲突和缺失造成的问题。

本节产出

一份上下文故障诊断清单

核心知识

• Attention 为不同位置分配关联权重，但不等于模型拥有永久记忆。
• 上下文窗口容纳当前输入；更长不代表更好，噪音和冲突会降低可用性。

动手练习

1. 给同一任务分别提供不足、适量和过量材料。
2. 比较结果并标记缺失、冲突与噪音。

完成检查

• 能区分上下文与长期 Memory
• 诊断基于具体输出差异

参考与来源

• 本地知识库：《AI编码工具与 Agent 工作原理深度解析》
• 本地知识库：《Session 和 Memory 的调和之重》