chatgpt或其他AI,如果同一个会话太长,是不是回答的速度与质量都会降低?
会自动压缩,漏掉一部分记忆,消耗也会更多
是的,可以用handoff.md 进行任务交接。
网页app聊天的话是这样的 codex的话分情况吧
速度不影响,影响智商。多轮压缩会残留很多非任务主线的无关信息影响模型注意力
对话太长他会压缩,至于质量有可能会降低
codex 上下文本来就短
跟他聊了很长,然后他就不记得前面跟他交代过的事情了
会压缩上下文,把之前的内容做成一个简报啥的,后面上下文满了继续压缩,一层层下来之前的细节已经记不清了
长了容易丢细节
会自动压缩,漏掉一部分记忆,消耗也会更多
是的,可以用handoff.md 进行任务交接。
网页app聊天的话是这样的 codex的话分情况吧
速度不影响,影响智商。多轮压缩会残留很多非任务主线的无关信息影响模型注意力
对话太长他会压缩,至于质量有可能会降低
codex 上下文本来就短
跟他聊了很长,然后他就不记得前面跟他交代过的事情了
会压缩上下文,把之前的内容做成一个简报啥的,后面上下文满了继续压缩,一层层下来之前的细节已经记不清了
长了容易丢细节