核心内容摘要
熟女孽缘：一场不被世俗定义的爱恋
本文综述了LLM进化为Agent系统时的效率瓶颈提出高效记忆、工具学习和规划三大核心优化方向。
详细分析了记忆构建、管理与访问的全生命周期强调Agent效率提升需减少工具调用频率、提高选择性并减少重试。
高效Agent的核心目标是实现成本与性能的最优权衡为构建可持续、高可及性的AI系统提供系统性框架。
当LLM从单轮问答进化为能够自主执行复杂任务的agent系统时一个关键瓶颈浮出水面效率。
与标准LLM的线性单轮交互不同agent需要进行大量记忆管理、迭代工具调用和多步规划导致延迟飙升、上下文窗口饱和、token消耗激增。
这篇综述系统梳理了高效agent的三大核心方向高效记忆、高效工具学习、高效规划。
[Figure 1: 高效agent研究的演进轨迹] 该图按记忆、工具学习、规划和基准测试四个主要分支组织按时间顺序展示了2023年至2025年该领域的发展和分类。
从LLM到Agent效率差距从何而来论文将LLM-based agent建模为部分可观测马尔可夫决策过程(POMDP)并增加了外部工具接口和显式记忆组件。
与纯LLM相比agent的成本来源更加复杂。
对于纯LLM推理成本主要由token生成主导可近似为CostLLM ≈ α × Ntok其中Ntok是生成的推理token数量α表示每token成本。
而agent则会产生额外开销Costagent ≈ α × Ntok 工具成本 记忆成本 重试成本。
[Figure 2: 从LLM到agent] 展示了从独立推理到带有记忆、规划和工具学习的轨迹级推理的转变同时引入了额外的成本来源。
因此提升agent效率不仅仅是减少语言生成更要减少工具或记忆调用的频率、提高选择性并减少轨迹中的重试次数。
高效记忆构建、管理与访问的全生命周期记忆增强推理是缓解长上下文和长期交互带来的计算与token开销的关键机制。
论文围绕agent记忆的生命周期展开涵盖记忆构建、记忆管理和记忆访问三个阶段。
[Figure 3: 高效记忆概览]
总结了agent-记忆生命周期的三个阶段记忆构建通过压缩工作记忆和外部记忆中的长交互上下文来缓解token爆炸记忆管理通过基于规则、基于LLM或混合策略来整理和更新累积的记忆存储以控制延迟记忆访问决定检索哪些记忆以及如何将其整合到模型中。
记忆构建工作记忆分为文本记忆和潜在记忆两类。
文本记忆方面COMEDY使用LLM生成和压缩记忆MemAgent和MEM1通过在每一步重写和更新紧凑的记忆状态来顺序处理长输入。
潜在记忆方面Activation Beacon将上下文分割成块并使用渐进压缩将KV激活蒸馏到信标中MemoryLLM维护固定大小的记忆token池Titans在测试时更新神经记忆模块。
外部记忆包括基于项目的记忆、基于图的记忆和层次化记忆。
基于项目的记忆中SeCom使用分割模型将长期对话划分为主题连贯的片段并应用压缩模型去噪A-MEM将每次交互转换为带有LLM生成的上下文描述、关键词和标签的原子笔记。
基于图的记忆中Zep通过摄取带时间戳的事件、提取/对齐实体和关系来构建时间感知知识图。
层次化记忆中MemGPT通过将上下文提示分区为系统指令、可写工作上下文和FIFO消息缓冲区来构建层次化记忆。
[Table 1: 效率导向机制的记忆概览] 该表按照论文提出的分类法组织涵盖工作记忆、外部记忆和多agent记忆列出了各方法的类别、核心机制和资源链接。
记忆管理基于规则的管理使用预定义规则进行更新、删除和合并。
MemoryBank引入了基于艾宾浩斯遗忘曲线的记忆更新规则随时间衰减记忆同时强化重要记忆。
A-MEM的实验结果表明基于遗忘曲线的记忆管理有效控制了记忆大小并减少了检索时间但也导致任务性能大幅下降。
基于LLM的管理可分为操作选择和开放式生成两种形式。
Memory-R1和Mem0都通过检索相似条目并在ADD、UPDATE、DELETE、NOOP中选择来更新外部记忆。
A-MEM使用生成式更新检索top-k相似笔记后LLM创建链接并通过记忆演化重写相关笔记。
混合管理结合轻量级规则控制和选择性LLM操作。
MemoryOS和LightMem都采用分层记忆的层级特定、触发驱动更新。
MemGPT使用队列管理器通过记忆压力警告、驱逐和递归摘要来强制执行token限制。
记忆访问记忆选择方面Generative Agents和Human-like memory将时间因素纳入考虑。
对于基于图的记忆AriGraph和Mem0[g]通过锚定查询相关事实并扩展邻居到局部子图来从记忆图中检索。
H-MEM中每个记忆嵌入指向下一层的相关子记忆递归索引到最后一层以检索相关信息从而加速检索。
记忆整合方面文本整合中Mem0在推理时检索最相关的项目并将其格式化为紧凑的记忆块附加到对话上下文中。
潜在整合中MemoryLLM在每个transformer层插入可训练的记忆token池M添加CPU驻留的长期记忆和协同训练的检索器。
多Agent记忆共享与本地的权衡多agent系统中的记忆设计面临独特挑战。
共享记忆方面MS使用共享记忆池和选择性添加G-Memory采用三层图记忆和双向粗到细检索。
本地记忆方面AgentNet为路由/执行使用固定大小的记忆模块并进行动态剪枝DAMCS采用去中心化的每agent短期/长期记忆和目标导向的层次化知识图。
混合记忆方面SRMT结合个人潜在记忆和全局广播的共享循环记忆。
高效工具学习与高效规划论文还系统梳理了高效工具学习和高效规划两大方向。
工具学习涵盖工具选择、工具调用和工具整合推理规划涵盖单agent规划效率和多agent协作效率。
这些模块的优化策略与记忆优化相辅相成共同构成高效agent系统的完整图景。
写在最后论文
总结了记忆、工具学习和规划三个维度的基准测试并指出了开放挑战和未来研究方向。
高效agent的核心定义是在相似成本预算下实现更高性能或在可比性能下实现更低成本的成本-性能权衡。
这篇综述为理解和构建高效agent系统提供了系统性框架对于关注AI系统长期可持续性和可及性的研究者和实践者具有重要参考价值。
如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。
但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。
这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。
我在一线互联网企业工作十余年里指导过不少同行后辈。
帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。
2023年人才缺口已超百万凸显培养不足。
随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。
加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
大模型入门到实战全套学习大礼包
大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。
正确的学习路线可以为你节省时间少走弯路方向不对努力白费。
这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通
大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。
AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。
大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。
大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。
在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。
适用人群第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。
大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-
5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。
快速开发一个完整的基于 agent 对话机器人。
掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。
为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。
到此为止大概2个月的时间。
你已经成为了一名“AI小子”。
那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。
硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。
天道酬勤你越努力就会成为越优秀的自己。
如果你能在15天内完成所有的任务那你堪称天才。
然而如果你能完成
% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】