kylearn
提示工程

上下文窗口

Context Window

AI 的'短期记忆容量',就像桌子只能摊开这么多张纸,超出的内容它就看不见、会忘掉前面说的话。

先打个比方

想象 AI 在一张桌子上跟你聊天,你说的每句话、它回的每句话,都得摊成一张纸放在桌面上。桌子就这么大,纸一多,前面那几张就被挤下去了——掉下去的,它就再也看不见了。这张"能摊纸的桌面",就是上下文窗口。

它到底是什么

说白了,它是 AI 的"短期记忆容量":一次对话里,它最多能同时看到多少内容。注意是"看到",不是"记住"。AI 没有我们那种回忆功能,它每次回答,靠的全是当下还摊在桌上的那些纸。一旦超出桌面大小,旧内容就被默默挤掉,它当然也就"忘"了 🙂。

为什么和你有关

这能解释两件你大概率遇到过的怪事。

一是聊久了它会失忆:开头你交代过的名字、要求,聊到后面它突然不认账了——不是装傻,是那几张纸早被挤下桌了。

二是别一次塞太多资料:把一整本几十页的文档"啪"地全甩给它,超出桌面的部分根本没进它眼里,它只是硬着头皮假装看过。

所以你常听到的"支持多少万字上下文",比的就是这张桌子有多大。

给你的小建议

桌子有限,就别堆废纸。长资料拆开分批喂,关键信息隔一阵重复一遍,聊跑偏了干脆新开一轮——把最该被它看见的,留在桌面上。

本文为 AI 整理的科普解读,可能有误,仅供入门参考。

没看懂?让 AI 再讲一遍:

延伸阅读:可在公众号「数字生命卡兹克」「Datawhale」搜同名概念的科普文章。