logo NodeSeekbeta

chatgpt或其他AI,如果同一个会话太长,是不是回答的速度与质量都会降低?

chatgpt或其他AI,如果同一个会话太长,是不是回答的速度与质量都会降低?

  • 会自动压缩,漏掉一部分记忆,消耗也会更多

  • 网页app聊天的话是这样的 codex的话分情况吧

  • 速度不影响,影响智商。多轮压缩会残留很多非任务主线的无关信息影响模型注意力

  • 对话太长他会压缩,至于质量有可能会降低

  • codex 上下文本来就短

  • 跟他聊了很长,然后他就不记得前面跟他交代过的事情了

  • 会压缩上下文,把之前的内容做成一个简报啥的,后面上下文满了继续压缩,一层层下来之前的细节已经记不清了

  • 长了容易丢细节

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

📈用户数目📈

目前论坛共有71748位seeker

🎉欢迎新用户🎉