GLM-4 icon indicating copy to clipboard operation
GLM-4 copied to clipboard

增加上下文管理与记忆功能

Open 021gink opened this issue 6 months ago • 1 comments

Feature request / 功能建议

claude code、codex的内部提示明文写在了cli.js文件,有很多可以借鉴的设计:在对话上下文管理方面,Claude Code的ClearTool和MemoryTool提供了卓越的解决方案。ClearTool能够深度分析对话历史,精准提取关键信息,如技术细节、代码模式和架构决策,并生成结构化摘要。摘要涵盖7个核心部分:用户请求、技术概念、文件变更、问题解决过程、待办任务、当前工作状态和下一步计划。即使对话轮次超过100轮,AI依然能清晰掌握项目全貌。MemoryTool则赋予AI持久记忆能力,将重要信息存储于项目根目录的CLAUDE.md文件中,包括项目结构、代码规范、常见问题及解决方案等。下次打开项目时,AI自动读取这些记忆,如同经验丰富的工程师重新熟悉代码库。这种设计使AI具备了“学习”和“积累”的能力,每次交互都为下一次工作奠定基础。

Motivation / 动机

在进行多轮对话中,由于自回归机制,导致对话历史被反复加载给模型,模型会产生注意力偏移,这在cursor或者网页对话中很常见,模型对历史对话相似指令产生混乱,从而无法意识到当前query主题可能发生转移,生拉硬拽的将之前的对话信息应用到当前query。因此压缩历史对话,get key facts,始终保持对当前query注意力,是增强多轮对话体验一致性的必然需求。 OpenAI chatgpt实现了用户记忆的积累,放在bio函数中,让模型更好的懂用户是有必要的,garbage in garbage out,有研究显示,如果用户的知识水平很高,那么模型的表现也会越强,因为用户的知识领域是有限的,在使用模型解决问题过程中,无法使用专业词汇或者专业分析视角去帮助模型建立所需要的语义空间,这就需要模型美化用户的人设,不要因为用户是小学生,而无法指导模型完成博士题目。

Your contribution / 您的贡献

npm install -g @openai/codex npm install -g @anthropic-ai/claude-code

021gink avatar Jun 28 '25 01:06 021gink

021gink avatar Jun 28 '25 04:06 021gink