写在前面欢迎大家关注Rocky的公众号WeThinkIn欢迎大家关注Rocky的知乎Rocky DingAIGC/LLM/AI Agent算法工程师/开发工程师面试面经秘籍分享WeThinkIn/Interview-for-Algorithm-Engineer欢迎大家StarAIGC时代的《三年面试五年模拟》AI算法工程师/开发工程师求职面试秘籍独家资源【三年面试五年模拟】AI算法工程师面试秘籍Rocky最新撰写AI AgentAI智能体的深入浅出全维度解析文章深入浅出完整解析AI AgentAI智能体的核心基础知识AIGC/LLM/AI Agent算法岗/开发岗面试面经交流社群涵盖AI Agent、AIGC图像创作、AI视频、LLM大模型、AI多模态、数字人、传统深度学习、具身智能等AIGC面试干货资源欢迎大家加入https://t.zsxq.com/33pJ0大家好我是Rocky。核心导读Anthropic 在 2025 年 9 月 29 日发布的工程文章《Effective context engineering for AI agents》表面上是在讨论 Agent 的上下文管理实际上讲的是 AI 应用工程正在发生的一次范式迁移真正难的部分正在从“怎么写一句更聪明的 Prompt”转向“怎么为模型持续组织一个可行动、可裁剪、可恢复的工作现场”。Rocky认为这篇文章值得认真读不是因为它发明了一个新名词而是因为它把 Agent 落地里的一个底层矛盾讲清楚了模型能力越强Agent 执行链越长系统里可用信息就越多但上下文窗口、注意力预算、工具返回、历史消息、外部知识、项目记忆这些东西并不会自动变成有效智能。它们如果没有被工程化管理反而会变成噪声、拖慢推理、污染判断最后把一个看似强大的 Agent 拉回到“知道很多但做不稳”的状态。这件事对 AI 应用创业、算法工程、Agent 产品和 Vibe Coding 都有直接启发。上半场奖励的是谁能把模型调得“像会说话”下半场奖励的是谁能把模型放进一个可靠的上下文系统里让它在多轮、多工具、长周期任务里仍然保持目标、边界和判断。问题背景Prompt Engineering 为什么不够了早期大模型应用的主战场确实是 Prompt Engineering。那时很多任务是一次性分类、摘要、改写、抽取、文案生成系统提示词写得清不清楚、示例给得好不好往往能直接决定效果。于是行业里沉淀出大量提示词模板、角色设定、few-shot 写法、XML 标签、Markdown 分区和“魔法咒语”。但 Agent 把问题变复杂了。一个真正可用的 Agent 不只是回答一次问题而是在循环中不断观察、调用工具、读取文件、查询外部数据、生成中间结果、修正计划再进入下一轮推理。每一轮都会产生新信息每一次工具调用都可能带回新材料每一段历史消息都可能看似有用。问题来了这些信息到底哪些该进入下一次模型调用哪些该被保留哪些该被压缩哪些该通过工具按需读取而不是提前塞进上下文哪些曾经有用但现在已经变成干扰Anthropic 把这个问题称为 Context Engineering。它不是把 Prompt Engineering 否定掉而是把 Prompt 放回更大的系统里看Prompt 只是上下文的一部分真正影响 Agent 行为的是系统提示词、工具描述、工具返回、MCP 资源、外部数据、历史消息、示例、项目文件、记忆和当前任务状态共同组成的“上下文现场”。这张图的关键点不在于给两个概念画了边界而在于它指出了一个工程节奏的变化。Prompt Engineering 更像一次性写作任务Context Engineering 则是一个循环过程每一次模型推理前系统都要重新决定应该把什么交给模型。Rocky认为这里有一个非常重要的行业判断**未来 Agent 系统的护城河不会只来自某个提示词模板而会来自持续管理上下文状态的能力。**提示词可以复制工具可以复刻模型 API 也越来越同质化但在一个复杂业务现场里怎样让模型始终看到“刚好足够”的信息这就是产品和工程的结合部。核心思路上下文不是仓库而是工作台很多团队做 Agent 的第一个误区是把上下文窗口当成一个越来越大的仓库。既然模型窗口变长那就多塞一点既然工具能返回很多那就多给一点既然检索能召回很多那就尽量召全。这个思路在 Demo 阶段经常有效因为短链路任务的噪声还没有大到压垮系统。但 Anthropic 的文章提醒我们Context 是一种有限资源。它不是硬盘不是知识库也不是日志池而是模型当前推理时的工作台。工作台太空模型缺信息工作台太乱模型会失焦。这背后有两个技术原因。第一大模型虽然上下文窗口越来越长但长上下文并不等于等质量上下文。文章提到类似 needle-in-a-haystack 的测试已经暴露了 context rot上下文越长模型从中准确回忆和使用关键信息的能力会下降。这个下降不一定是断崖式的更像一个性能梯度模型还能工作但精度、稳定性和长程推理质量会变差。第二Transformer 的注意力机制天然要处理 token 之间的成对关系。上下文长度增加以后需要协调的信息关系会快速变复杂。即使模型通过位置编码插值等方式适配更长序列也并不意味着它对所有远距离依赖都拥有同样强的理解能力。更现实地说训练数据分布里短序列更常见模型对极长上下文中跨段依赖的经验也更少。所以“把所有东西都给模型”不是慷慨而是一种工程偷懒。真正有效的上下文工程应该追求的是用最小的高信号 token 集合最大化模型产生目标行为的概率。这句话听起来像常识但落到 Agent 产品里非常难。因为它要求团队同时理解模型、任务、工具、数据、用户路径和失败模式。你不能只问“模型缺什么”还要问“模型看到什么会被误导”不能只问“信息是否相关”还要问“现在这一轮推理是否需要它”不能只问“上下文够不够长”还要问“注意力是否被浪费”。方法展开Context Engineering 到底管什么1. 系统提示词不是越细越好而是高度要对Anthropic 对系统提示词的建议很克制用清晰、直接、简单的语言把任务放在合适的抽象高度上。这里的“高度”非常关键。太低就会把系统提示词写成一堆 if-else 式的硬编码规则。短期看起来可控长期会越来越脆业务条件一变工具一换异常一多提示词就变成没人敢动的规则泥潭。太高又会变成空泛口号比如“请专业、准确、高质量地完成任务”模型既不知道具体边界也不知道输出标准。这张图真正想表达的是系统提示词不是把人类所有决策写死也不是把责任全部丢给模型而是在脆弱硬编码和空泛泛化之间找到可执行的启发式。一个好的系统提示词应该给模型足够具体的行为方向又给它保留处理复杂场景的弹性。Rocky认为这对今天很多 AI 应用团队是很现实的提醒。很多失败的 Agent 不是模型不够强而是系统提示词把模型关进了错误的轨道要么规则太碎模型只能机械执行要么边界太虚模型开始自行脑补。真正可维护的 Prompt不是长而是结构清楚、边界明确、失败模式可迭代。2. 工具工具不是功能列表而是 Agent 与世界的契约Agent 的工具设计是上下文工程里最容易被低估的一环。因为工具不仅提供能力也会决定模型如何理解任务空间。Anthropic 强调工具应该自包含、鲁棒、用途清楚输入参数要描述明确功能边界要尽量少重叠。一个常见失败模式是工具集膨胀接口很多、能力重叠、命名含糊工程师自己都说不清某个场景应该用哪个工具却期待模型自己做出更好的选择。这其实是产品设计问题也是组织工程问题。工具不是“我把后端接口都暴露给模型”工具是你帮模型塑造一套可行动的世界模型。工具名称、参数、返回格式、错误信息、数据粒度都会进入模型的上下文影响下一步决策。所以好的工具设计要同时满足两件事第一返回内容要 token efficient不要把一整堆低价值字段塞回来第二工具本身要诱导高效行为让模型自然走向正确路径而不是在一堆相似工具里反复试错。这也是为什么 Agent 产品不能只靠模型团队。它需要后端、产品、数据、算法、交互甚至业务专家共同设计工具契约。工具红利会退潮但围绕任务拆工具、定义边界、管理返回的能力会变成跨周期工程资产。3. 示例few-shot 仍然重要但不要把边界条件当垃圾桶Anthropic 仍然建议使用示例也就是 few-shot prompting。但它反对把所有边界条件都塞进提示词里。原因很简单示例对模型来说是“图像化”的行为参照但过多、过碎、互相冲突的示例会降低信号密度。模型并不是在读法律条文它是在从上下文里归纳行为模式。你给它十几个质量参差不齐的边界案例不一定比给它三个高质量、覆盖典型分布的 canonical examples 更好。Rocky在做技术文章、面试题库、AIGC 工作流和 Agent 任务设计时也有类似体感示例的价值不在数量而在能否把“你真正想要的判断方式”显性化。好的示例不是补丁而是标尺。动态上下文从提前召回到 Just-in-time如果说系统提示词、工具和示例解决的是静态上下文那么 Agent 的真正难点在动态上下文。很多 AI-native 应用会在模型调用前使用 embedding 检索把看似相关的材料提前召回。这对很多问答和知识库场景依然有效但 Agent 越复杂预先把所有相关材料塞进去的成本就越高。Anthropic 观察到越来越多团队开始转向 just-in-time context不是提前加载全部数据而是给 Agent 保留轻量引用比如文件路径、存储查询、网页链接、数据库表名让模型在运行时通过工具按需读取。Claude Code 是这个思路的典型例子。它不需要把整个代码库一次性塞进上下文而是通过文件系统、查询、Bash、grep、glob 等工具逐步探索。模型可以先看目录、再看文件名、再看文件片段、再运行命令验证。这样做的本质是让 Agent 像人一样工作我们也不会把整本书背进脑子里而是依赖文件夹、书签、搜索、笔记和命名系统在需要时把信息拿到工作台上。这里还有一个常被忽略的点路径、文件名、目录层级、时间戳本身就是上下文。一个叫test_utils.py的文件如果在tests/目录下和在src/core_logic/目录下对模型的含义完全不同。好的信息架构本身就是给 Agent 的导航信号。当然just-in-time 不是免费午餐。它会增加运行时探索成本也要求团队给模型提供足够可靠的工具和启发式。没有边界的自主探索可能让 Agent 在无关信息里打转、误用工具、反复追死路。对很多业务场景来说更现实的策略是混合式一部分关键上下文预先放入一部分细节让 Agent 运行时检索。Rocky认为这里对创业公司尤其重要。不要迷信“做一个万能 RAG Agent 平台”就能解决所有问题。真正的产品壁垒往往藏在行业信息如何被组织、任务如何被拆分、工具如何被调用、上下文如何被裁剪这四个细节里。模型会进步但业务现场不会自动变干净。长程任务Agent 真正的成人礼短任务里Agent 的失败常常还能靠重试掩盖。长程任务不一样。大代码库迁移、复杂研究、跨文件修复、连续数据分析、企业流程自动化都要求 Agent 在几十分钟甚至数小时里保持目标一致、状态连续、错误可恢复。Anthropic 提到三类关键技术compaction、structured note-taking 和 sub-agent architectures。1. Compaction不是简单摘要而是上下文换窗Compaction 的基本做法是当对话接近上下文窗口上限时把历史内容压缩成高保真摘要再开启新的上下文窗口继续工作。这件事的难点不在“压缩”而在“保真”。如果压得太粗关键架构决策、未解决 bug、实现细节和用户约束会丢掉如果压得太松又无法真正降低上下文污染。Anthropic 的建议是先追求 recall确保复杂 Agent 轨迹里的重要信息都能保留再逐步提高 precision删掉冗余工具输出、重复消息和低价值历史。这对所有做长程 Agent 的团队都是底层能力。你不能只问“窗口够不够大”还要设计“窗口换掉以后任务灵魂还在不在”。2. Structured note-taking让 Agent 有外部记忆结构化笔记或者说 agentic memory是让 Agent 定期把关键状态写入上下文窗口之外的持久存储后续再按需读回。这比“把所有历史消息留在上下文里”更像人类工作方式。人做复杂项目时也会维护 TODO、设计文档、会议纪要、变更记录、实验日志。Agent 也一样。一个NOTES.md、一个任务清单、一个项目状态文件都可能让模型在数十轮工具调用之后仍然知道自己在哪、做过什么、还差什么。Anthropic 用 Claude Code 的待办列表和 Claude 玩宝可梦的长程记忆举例说明外部记忆能让 Agent 在上下文重置后继续多小时任务。这一点很关键长程智能不是把一切都塞在脑子里而是把记忆变成可读写的外部结构。3. Sub-agent把脏上下文隔离出去多 Agent 或子 Agent 架构提供了另一种绕开上下文限制的方式。主 Agent 负责高层规划和综合判断子 Agent 用干净窗口处理局部任务、深度搜索或工具探索最后只把压缩后的结果交回主 Agent。这个模式的核心价值是上下文隔离。复杂搜索过程里会产生大量中间噪声如果全部留在主 Agent 的窗口里主线判断会被污染。让子 Agent 去“脏活累活”再把高信号结论带回来本质上是在系统层面做信息蒸馏。Rocky认为这个思路会成为未来企业级 Agent 的常见架构。不是每个任务都需要多 Agent但当任务天然可以拆解、并行探索收益高、搜索过程噪声大时子 Agent 就不是炫技而是上下文卫生。这篇文章真正给行业的启发Anthropic 的这篇文章没有给出一个万能框架也没有承诺某种神奇架构。它更像一次工程价值观校准随着模型越来越强应用层团队不能再把问题简单归因于“模型还不够聪明”。很多时候模型已经足够聪明真正不聪明的是系统给它的上下文。对 AI 算法工程师来说Context Engineering 意味着能力边界要从模型调用扩展到信息组织。你不仅要知道怎么写 prompt还要知道工具返回、历史压缩、检索策略、记忆结构如何影响行为。对产品经理来说Context Engineering 意味着 Agent 产品不是把聊天框接上工具那么简单。你要设计的是一个动态工作台用户意图如何进入任务状态如何显性化模型何时读取外部信息何时压缩历史何时交给子任务。对创业者和投资人来说Context Engineering 提醒我们AI Agent 的商业闭环不在“我也接了某个大模型 API”而在能不能把某个行业的任务现场结构化。真正可持续的壁垒是数据、工具、工作流、记忆和交付标准的组合。对开发者来说这篇文章也解释了为什么 Vibe Coding 会继续演化。未来写代码的门槛会降低但定义问题、维护上下文、拆解任务、验证结果、组织项目记忆的能力会更值钱。AI 不会尊重一个人背过多少提示词只会放大一个人能不能把复杂工作现场整理成模型可执行的结构。边界与反思更大窗口不会自动解决上下文问题一个常见反驳是既然模型上下文窗口越来越大为什么还要做这么多上下文工程Rocky的判断是更大窗口当然有价值但它解决的是容量问题不自动解决质量问题。容量扩大以后低质量信息也更容易被塞进来工具返回更多以后噪声也更多历史保留更长以后过期决策也更容易干扰当前判断。这就像一个团队办公室变大了不代表协作效率一定变高。真正决定效率的是文件怎么归档、会议怎么记录、任务怎么拆分、谁负责决策、过期信息怎么清理。上下文工程的长期价值恰恰在于它不依赖某一代模型的窗口大小。模型越强越需要被放进更好的信息结构任务越长越需要外部记忆和压缩工具越多越需要清晰契约业务越复杂越需要把行业知识变成可导航的上下文。术语与概念速查概念含义Rocky式理解Prompt Engineering写作和组织模型指令以获得更好输出早期 AI 应用的关键技能但只覆盖上下文的一部分Context Engineering管理推理时进入模型的全部 token 与状态Agent 时代的信息架构工程Context Rot上下文变长后模型回忆和使用关键信息的能力下降长窗口的边际收益会递减噪声会污染判断Attention Budget模型处理上下文时有限的注意力资源token 不是免费资产而是会消耗推理焦点Just-in-time Context运行时按需加载信息而不是预先塞满上下文让 Agent 像人一样通过文件、查询和工具逐步探索Compaction将长历史压缩成高保真摘要后继续任务长程 Agent 的换窗机制Structured Note-taking把关键状态写入外部记忆后续按需读回让 Agent 拥有项目笔记和任务记忆Sub-agent Architecture子 Agent 在独立上下文中完成局部任务再返回压缩结论用上下文隔离换取复杂任务的可控性拓展思考Context Engineering 会成为 Agent 的基础设施层这篇文章真正值得继续研究的地方是它把 Agent 的竞争维度从“模型调用”推向了“上下文系统”。未来的 Agent 产品可能会出现三层分化。第一层是模型层。它决定推理、代码、工具使用、多模态和长上下文能力的上限。但模型层会持续迭代应用团队很难只靠调用某个模型形成长期护城河。第二层是工具与工作流层。它决定 Agent 能不能进入真实环境能不能调用数据库、文件系统、浏览器、企业软件和业务 API。这里会产生大量行业适配机会。第三层是上下文工程层。它决定 Agent 在复杂任务中能不能保持清醒什么时候看怎么看看多少看完怎么记记住什么忘掉什么交给谁继续看。Rocky认为真正有跨周期价值的 AI 应用团队会越来越像“信息结构工程师 业务流程设计师 模型产品经理”的混合体。Prompt 仍然重要但它会从主角变成系统中的一个组件。工具仍然重要但没有上下文管理工具越多越容易失控。模型仍然重要但模型能力必须被上下文系统转化成稳定交付。所以这篇 Anthropic 工程文章最值得带走的一句话不是某个技巧而是一种判断Agent 的未来不是让模型一次看到更多而是让模型每一次都看到更对。这句话听起来朴素但它会决定很多 AI 产品能不能从 Demo 走向长期工作流。参考来源Anthropic Engineering: Effective context engineering for AI agents推荐阅读Rocky一直在运营技术交流群WeThinkIn-技术交流群这个群的初心主要聚焦于技术话题的讨论与学习包括但不限于算法开发竞赛科研以及工作求职等。群里有很多人工智能行业的大牛欢迎大家入群一起学习交流请添加小助手微信Jarvis8866拉你进群1. 深入浅出完整解析AI AgentAI智能体的核心基础知识2025年可以说是AI Agent全面落地应用的元年因此Rocky在持续撰写对AI Agent的全维度解析文章深入浅出完整解析AI AgentAI智能体的核心基础知识2. 深入浅出完整解析扩散模型DDPM、DDIM、Classifier/Classifier-Free Guidance、Rectified Flow核心基础知识和Rocky一起学习探究扩散模型的本质原理与和核心基础知识同时不断跟进扩散模型的最新发展。Rocky在本文中对扩散模型的本质做了全面系统的梳理与讲解深入浅出完整解析扩散模型DDPM、DDIM、SDE、Classifier/Classifier-Free Guidance、Rectified Flow核心基础知识3. 深入浅出完整解析FLUX.2、Seedream即梦、Z-image、GLM-Image核心基础知识https://zhuanlan.zhihu.com/p/19751746910491895624. 深入浅出完整解析FLUX.1 Kontext和FLUX.1 Krea核心基础知识深入浅出完整解析FLUX.1 Kontext和FLUX.1 Krea核心基础知识5. 深入浅出完整解析DeepSeek系列核心基础知识深入浅出完整解析DeepSeek系列核心基础知识6、Sora等AI视频大模型的核心原理核心基础知识网络结构经典应用场景从0到1搭建使用AI视频大模型从0到1训练自己的AI视频大模型AI视频大模型性能测评AI视频领域未来发展等全维度解析文章正式发布码字不易欢迎大家多多点赞Sora等AI视频大模型文章地址深入浅出完整解析Sora、Wan2.1、AnimateDiff、CogVideoX等AI视频大模型核心基础知识7、Stable Diffusion 3和FLUX.1核心原理核心基础知识网络结构从0到1搭建使用Stable Diffusion 3和FLUX.1进行AI绘画从0到1上手使用Stable Diffusion 3和FLUX.1训练自己的AI绘画模型Stable Diffusion 3和FLUX.1性能优化等全维度解析文章正式发布码字不易欢迎大家多多点赞Stable Diffusion 3和FLUX.1文章地址深入浅出完整解析Stable Diffusion 3SD 3和FLUX.1系列核心基础知识8、Stable Diffusion XL核心基础知识网络结构从0到1搭建使用Stable Diffusion XL进行AI绘画从0到1上手使用Stable Diffusion XL训练自己的AI绘画模型AI绘画领域的未来发展等全维度解析文章正式发布码字不易欢迎大家多多点赞Stable Diffusion XL文章地址深入浅出完整解析Stable Diffusion XLSDXL核心基础知识9、Stable Diffusion 1.x-2.x核心原理核心基础知识网络结构经典应用场景从0到1搭建使用Stable Diffusion进行AI绘画从0到1上手使用Stable Diffusion训练自己的AI绘画模型Stable Diffusion性能优化等全维度解析文章正式发布码字不易欢迎大家多多点赞Stable Diffusion文章地址深入浅出完整解析Stable DiffusionSD核心基础知识10、ControlNet核心基础知识核心网络结构从0到1使用ControlNet进行AI绘画从0到1训练自己的ControlNet模型从0到1上手构建ControlNet商业变现应用等全维度解析文章正式发布码字不易欢迎大家多多点赞ControlNet文章地址深入浅出完整解析ControlNet核心基础知识11、LoRA系列模型核心原理核心基础知识从0到1使用LoRA模型进行AI绘画从0到1上手训练自己的LoRA模型LoRA变体模型介绍优质LoRA推荐等全维度解析文章正式发布码字不易欢迎大家多多点赞LoRA文章地址深入浅出完整解析LoRALow-Rank Adaptation模型核心基础知识12、深入浅出完整解析AIGC时代Transformer核心基础知识在AIGC时代中Transformer为AI行业带来了深刻的变革。Transformer架构正在一步一步重构所有的AI技术方向成为AI技术架构大一统与多模态整合的关键核心基座大有一统“AI江湖”之势。Rocky也对Transformer模型进行持续的深入浅出梳理与解析Transformer文章地址深入浅出完整解析AIGC时代Transformer核心基础知识13、最全面的AIGC面经《手把手教你成为AIGC算法工程师斩获AIGC算法offer2024年版》文章正式发布码字不易欢迎大家多多点赞AIGC面经文章地址手把手教你成为AIGC算法工程师斩获AIGC算法offer14、50万字大汇总《“三年面试五年模拟”之算法工程师的求职面试“独孤九剑”秘籍》文章正式发布码字不易欢迎大家多多点赞算法工程师三年面试五年模拟文章地址https://zhuanlan.zhihu.com/p/545374303《三年面试五年模拟》github项目地址希望大家能多多starhttps://github.com/WeThinkIn/Interview-for-Algorithm-Engineer15、Stable Diffusion WebUI、ComfyUI、Fooocus三大主流AI绘画框架核心知识从0到1搭建AI绘画框架从0到1使用AI绘画框架的保姆级教程深入浅出介绍AI绘画框架的各模块功能深入浅出介绍AI绘画框架的高阶用法等全维度解析文章正式发布码字不易欢迎大家多多点赞AI绘画框架文章地址深入浅出完整解析主流AI绘画框架ComfyUI、Stable Diffusion WebUI、Fooocus核心基础知识16、GAN网络核心基础知识网络架构GAN经典变体模型经典应用场景GAN在AIGC时代的商业应用等全维度解析文章正式发布码字不易欢迎大家多多点赞GAN网络文章地址https://zhuanlan.zhihu.com/p/66315730617. AI算法工程师的《三年面试五年模拟》求职秘籍AIGC时代的算法工程师的求职面试秘籍持续更新中18. AIGC产业的深度思考与分析2023年3月21日微软创始人比尔·盖茨在其博客文章《The Age of AI has begun》中表示自从1980年首次看到图形用户界面graphical user interface以来以OpenAI为代表的科技公司发布的AIGC模型是他所见过的最具革命性的技术进步。Rocky也认为AIGC及其生态会成为AI行业重大变革的主导力量。AIGC会带来一个全新的红利期未来随着AIGC的全面落地和深度商用会深刻改变我们的工作、生活、学习以及交流方式各行各业都将被重新定义过程会非常有趣。那么在此基础上我们该如何更好的审视AIGC的未来我们该如何更好地拥抱AIGC引领的革新Rocky准备从技术、产品、商业模式、长期主义等维度持续分享一些个人的核心思考与观点希望能帮助各位读者对AIGC有一个全面的了解深入浅出全面解析AIGC时代核心价值与发展趋势2025年版
