

上下文窗口是什么:AI 的工作台为什么会装满
用有限工作台和行李箱类比,讲清上下文窗口如何被系统指令、历史、文件与回答共同占用,以及它和记忆、RAG 的区别。
这期用「有限工作台」和「固定容量行李箱」两个类比,讲清上下文窗口的总预算如何被共同占用,装满后产品可能怎样处理,以及它为什么不等于永久记忆。你还会分清四个常被混用的词:上下文窗口、最大输出、记忆和 RAG。能放进长上下文,不代表每个位置的信息都能被同样稳健地利用;RAG 则是先找出相关资料,再把资料交给模型处理。45
一句话记住:窗口决定这一轮能摊开多少材料,整理方式决定模型这一轮实际看见什么。
参考来源
- 1OpenAI:Conversation state
developers.openai.com
- 2Google:Understand and count tokens
ai.google.dev
- 3Anthropic:Context windows
docs.anthropic.com
- 4ACL Anthology:Lost in the Middle
aclanthology.org
- 5Microsoft Learn:Retrieval-augmented generation
learn.microsoft.com
相似内容
- 登录后可发表评论。
