AI 的记性,
其实只有「眼前一页纸」
先说个反直觉的事实:AI 本体每过一轮就彻底失忆一次。它记得你上一句话,不是因为「记住了」, 而是软件每次都把聊天记录重新发给它读一遍。这章拆开三个最常被混淆的词: 上下文(眼前这页纸)、 会话(APP 里的聊天记录本)、 记忆(随身笔记本)。 压轴是一个可以亲手制造「失忆」的聊天演示。
4.1 三个词,三张身份证
📜 上下文(Context)
AI 答题时眼前摊开的全部文字:系统设定 + 聊天记录 + 你这句新话(+ 塞进来的资料)。随对话越堆越厚,受「书桌大小」(上下文窗口)限制。
- 活一次:只存在于这一次请求
- 上限:窗口就那么大
- 花的钱:按积木数计费
🗂 会话(Session)
APP 那边的聊天记录本,配一个编号(session id)存在数据库里。AI 自己并没有「会话」这个概念——每次都是应用把本子里的历史重新拼进上下文发过去。
- 活得久:直到过期或你删掉
- 住哪:服务器数据库
- 「新开聊天」= 换个新本子
🧠 记忆(Memory)
让信息跨对话留存的手段:还在眼前这页纸上的叫短期记忆;靠摘要便签、资料检索、外部笔记本存着的叫长期记忆。本质都是下次重新摆到它眼前。
- 短期记忆 ≈ 还在上下文里
- 长期记忆 ≈ 需要时检索回来
- ChatGPT 的「记忆」就是这类
4.2 上下文:AI 每次读到的「一整卷纸」
第 2.5 节说过:多轮聊天在底层是一整段文字。所以第 N 轮对话时,AI 收到的 上下文 = 系统设定 + 前 N-1 轮全部对话 + 你这句新话,拼成一卷、一次读完、按总积木数计费。
4.3 会话:APP 那边的聊天记录本
你点「新建聊天」,应用就开了个新 会话——一个新记录本,配个编号。 之后你每发一句话,应用都在做同一个循环:从本子取出全部历史 → 按上一节说的拼成完整上下文 → 发给 AI → 把 AI 的回复写回本子。如此往复。
两个推论:① 记录本可以无限厚(数据库不在乎),但每次能发给 AI 的只有「书桌摆得下」的部分——所以需要截断/压缩(3.6 节); ② 「清空聊天记录」删的是这个本子,AI 那边什么都没发生——因为它本来就什么都没存。
4.4 记忆:所谓「记住」,其实是「下次再塞给你」
AI 肚子里的知识冻结在训练截止那天(知识截止日期)。 它此刻「还知道」的一切——你们的旧对话、你上传的资料、今天的新闻——都是当下被塞进上下文的。 市面上的「长期记忆」功能,实现无外乎三招:
| 招式 | 怎么做的 | 你在哪见过 |
|---|---|---|
| 压便签 | 定期让 AI 把旧对话总结成一张摘要,替换原文摆上桌 | 长对话自动摘要 |
| 查地图 | 资料/历史存进「语义地图库」,每次按相关度取几条塞进上下文 | ChatGPT 记忆、笔记类 AI |
| 记笔记 | 让 AI 主动调用「保存笔记」工具,下次会话再取回来 | AI 助手的长期记忆 |
4.5 一张图看清三者怎么配合
4.6 失忆演示器:亲手让 AI「忘掉」你
玩法:模拟窗口只有 500 积木。开局你会告诉 AI 三个信息(名字、幸运数字、猫的名字), 然后「继续闲聊」把书桌塞满——开头那段会被挤下桌。这时再问它开局的信息,看它还答不答得上来; 然后打开「便签记忆」开关重演一遍,对比结局。
上下文决定了它「看得见什么」。下一个问题:看见之后,每个字是怎么被挑出来的?为什么同一个问题每次回答还不一样?下一章:抽签。