助理老是提示"正在压缩上下文",之后就忘了前面的细节,怎么办?
压缩上下文,是因为一次对话里装的内容已经接近模型能处理的上限,它只能把前面的内容总结成要点再继续,细节就丢了。解决思路是别让一个对话承担太多:大任务拆成几个阶段,每个阶段开新对话;重要的结论和决定及时写进文件,而不是只留在对话里;资料按需读取,不要一开始就全部塞进去;阶段结束时让它写一份交接,新对话从交接开始。这样即使压缩,关键信息也在文件里,不会丢。
这是因为一次对话里的内容太多了。
为什么会压缩
模型一次能处理的内容是有上限的。对话越来越长、读的资料越来越多,接近上限时,它只能把前面的内容总结成要点,再继续干活。
总结的过程中,细节会丢:某个具体的数字、某次说过的例外情况、某个被否定过的方案。
解决思路:别让一个对话承担太多
1. 大任务分阶段
本文为 个人 AI 助理 会员内容。开通会员后可阅读全部教程、问答和模板:12 月 3 日前限时 ¥199/年(原价 ¥365),开通送 voicemake.cn 高级会员 1 个月,会员可 1V1 咨询。