出海数字营销宝典 Logo
出海数字营销宝典evaoo.com

AI 工程化解析:Context、Harness、Loop、Eval 与 Graph 架构分工

2026-11-06Miles Ma @miles_mazy约 26 分钟阅读

作者:Miles Ma @miles_mazy•发布日期:2026-09-17•阅读时长:8 分钟

AI 工程化概念拆解封面图AI 工程化概念拆解封面图

AI 圈最近两年造的新词太多了。Prompt Engineering 还没聊明白,后面又排起了长队:Context、Harness、Loop、Graph 和 Eval……看多了确实容易晕。

直接说结论:从开发和工程落地的角度看,这些 Engineering 拆到最后,核心还是提示词。

今天在工程里谈的提示词,早已超出了聊天框里的那几句话。

它包含系统给模型的规则、当前任务的资料、工具说明、历史结果、失败反馈和完成标准。只要模型能读到,并且会影响它下一步怎么判断,都属于提示词的一部分。

AI 领域常见 Engineering 术语演进AI 领域常见 Engineering 术语演进

Agent 难在把事情做完

做一个能演示的 Agent 并不难。给它一个任务,再接几个工具,它就能自己搜索、读文件、调用接口,跑完以后还会告诉你任务已经完成。

真拿去做事,问题马上就来了。它可能重复做已经完成的步骤,调用了错误的工具,拿到一半结果就宣布结束,也可能在同一个错误上来回跑。

工程化要处理的,就是这些具体问题。模型这一步该看到什么,可以使用哪些工具,失败以后怎么改,什么情况算完成,走到哪里必须停下来交给人。

我们以前做 Agent 时,外层基本都离不开这套流程:

Agent 执行外层通用流程

TEXT6 行
1接收任务
2→ 制定计划
3→ 调用工具执行
4→ 评估结果
5→ 验证是否完成
6→ 没通过就把原因送回去,再跑一轮

Agent 核心执行流水线Agent 核心执行流水线

代码可以把这条路线搭起来,也能限制最大轮次。至于每一步具体做什么、怎么选工具,以及结果够不够、失败后补哪一块,仍然要靠模型根据提示词判断。

提示词到了 Agent 里,早就超出了一次问答的范围,它会跟着任务不断变化。后面这些 Engineering,基本都在拆这套系统里的某一个问题。

动态提示词系统运转机制动态提示词系统运转机制

架构图解 · AI Agent 工程技术栈与提示词分层模型

最外层是速率限制、沙盒和权限网关等代码边界,往里是围绕模型的 5 类工程模块。这些模块最终都会转化为动态组装的提示词,输入给核心 LLM:

AI Agent 工程技术栈与提示词分层模型AI Agent 工程技术栈与提示词分层模型

Context Engineering:这一轮到底给模型看什么

单次问答很简单,把用户问题和几份资料一起发给模型就行。但 Agent 连续运行几十步后,历史记录、工具结果、中间文件和报错信息越积越多,无法在每一轮原样塞进上下文。

塞得少,模型不知道前面发生过什么;塞得多,旧资料和无关结果又会把它带偏。两头都不对。

Context Engineering 漏斗与信息筛选Context Engineering 漏斗与信息筛选

Context Engineering 处理的就是当前这一轮该给模型看什么。首次规划需要用户目标、可用工具和限制条件。执行失败后重新规划时,还要补上失败原因、已完成步骤和当前结果,否则模型很容易重走老路。

LangChain 把常见处理分成 Write、Select、Compress 和 Isolate。换成开发里的动作,就是先保存中间结果,需要时再挑出来;内容太长就压缩,不同任务分开处理,别让所有信息挤在同一个窗口里。完成这些处理后,最终目的仍是拼出模型下一次调用时看到的提示词。

Harness Engineering:把工具交给模型,也得把话说明白

模型本身只能生成文本。要让它搜索网页、读取文件、查询数据或操作软件,就得在外层接入工具、Skills、记忆、中间件、权限和运行环境。这一整套外围设施通常称为 Harness。

Harness Engineering 外壳与工具包裹体系Harness Engineering 外壳与工具包裹体系

工具本身好不好用,是开发工具时要解决的问题。Agent 会不会用,则取决于工具说明有没有把话说清楚:它能做什么,需要哪些参数,返回结果怎么读,什么情况下别去碰。

工具名称很像,模型会选错;参数说明含糊,计划看着没问题,一执行却拿不到结果。记忆也是同样的道理,内容保存在硬盘里还不够,得在正确的时候取出来,放回当前上下文。

Skills 也是提示词。它把一类任务的做法提前整理好,需要时再把对应规则交给模型,不用每次从头解释。Harness 做的,就是把这些东西装到模型周围,并在合适的时候告诉它现在能用什么、该怎么用。

Loop Engineering:让它根据结果继续

Agent 和普通问答最大的区别,是它做完一步以后还会看结果。搜索没有找到答案就换关键词,工具调用失败就改参数,资料不完整就继续补,验证通过以后才结束。

Loop Engineering 执行反馈与修正循环Loop Engineering 执行反馈与修正循环

代码里的循环只能保证它再跑一轮,不能告诉它下一轮怎么改。下一轮会不会换个做法,要看上一轮的结果和失败原因有没有准确地送回模型。

如果反馈只有一句“失败了,请重试”,模型很可能原样再做一次。更有效的做法,是把没通过的项目写清楚:哪一步失败、缺什么、哪些步骤已经完成、下一轮允许调整什么。

最大轮次可以由代码写死,它相当于刹车。Loop 能不能越跑越接近目标,看的仍然是完成标准和失败反馈有没有说清楚。

Agent Loop 闭环状态机模拟器

Eval Engineering:别只看最后那句话

最近又有人开始讲 Eval Engineering。这个词背后的问题很实际:Agent 说“任务完成了”,不代表它真的把事情办完了。

Eval Engineering 轨迹审查与真实运行评估Eval Engineering 轨迹审查与真实运行评估

只看最后一段回答,很容易放过过程里的问题。它可能用错了工具、漏掉了关键步骤,也可能碰巧给出一个像样的结果,实际却没有满足原任务。

评估不能只盯着答案,还得看任务、运行环境、验证器和执行轨迹。更麻烦的是,验证规则本身也可能写错;标准含糊,Agent 就会钻空子,拿到高分却没把事情做好。

LangChain 近期分享了一种做法:从真实运行记录里筛选失败案例,还原成可重复执行的测试任务,再对比修改提示词、工具或流程后的效果。评估既可以在运行中触发,也可以在运行后执行。只要还需要模型判断结果是否达标,就得先把完成标准写清楚。

Graph Engineering:路线可以固定,判断不能全写死

任务复杂以后,一条直线不够用了。验证通过就进入下一步,资料不足就回到搜索,碰到高风险操作就暂停等待人工确认,不同任务也可以并行执行。

Graph Engineering 状态机路线与分支选择Graph Engineering 状态机路线与分支选择

这些节点和路线连在一起,就是 Graph。代码可以规定哪个节点先跑、哪条边不能绕过、什么地方必须停。

但节点里面只要还有 Agent,模型就需要一份当前节点的提示词。它要看到任务、上一步结果、可用工具和通过条件,再决定这一段怎么做,以及把什么结果交给下一个节点。如果每一步、每个输入和每个结果都由代码写死,那就是普通工作流软件,用不上 Agent。

Graph 决定模型下一步去哪里,Prompt 决定它到了那里以后怎么做。

AI 营销工程化沙盒工作台

代码管边界,提示词管判断

说提示词是核心,不等于所有东西都要写进提示词。最大运行次数、文件权限、付款审批、数据访问范围,这些应该由代码和系统权限直接控制。

提示词负责的是边界里面的判断。任务怎么理解,工具怎么选,结果怎么评,失败以后补什么,这些地方才需要模型。

没有代码兜底,Agent 可能越界或者一直跑;没有提示词,Graph 里只剩一堆空节点,工具摆得再多,模型也不知道该怎么用。工程化的关键是划清职责边界:确定性规则用代码写死;需要模型判断的部分,就把上下文、工具说明、验收标准和错误反馈写清楚。

架构分工图解 · 代码硬边界与提示词软判断

在 Agent 系统设计中,确定性的安全边界由代码直接锁死,概率性的语义推理由模型根据提示词决策:

代码硬边界与提示词软判断职责分工图代码硬边界与提示词软判断职责分工图

代码工程 vs 纯 Prompt 护城河对比矩阵

这些 Engineering 到底新不新

这些问题并不新,我们以前做 Agent 时已经在处理。工具怎么交给模型、结果怎么回到下一轮、流程哪里要固定,一样都不能少。

Agent 做的任务越来越长,提示词也从一句话变成了一个运行中的系统。以前只关心一次回答,现在还要处理每一步的上下文、工具、反馈、评估、流程和退出条件,于是每一部分都有了自己的名字。

所以我看这些新词,不会先去背定义。我会先看模型这一刻收到了什么,失败结果怎么回去,哪一步由代码锁死,哪一步还需要模型判断。

Context、Harness、Loop、Eval 和 Graph 这些概念,本质上都在回答几个具体问题:提示词放在哪里,什么时候更新,怎样配合工具与流程,以及拿什么标准做评估。术语变多了,但模型每一步实际读取的,依然是任务、资料、工具说明、验收标准和执行反馈。


我是 Miles,曾在 1 个月内涨粉 2 万,1 周内写出 3 篇百万曝光长文(其中 2 篇超过 200 万)。本文结合我过往开发 Agent 的实战记录,把这套工程分工梳理清楚。

Miles Ma @miles_mazy 原文作者Miles Ma @miles_mazy 原文作者

AI 工程化

觉得本文有启发?一键复制标准引用摘要

自带原文归因链接与核心摘要,可直接粘贴至团队飞书/Slack 知识库、技术周报或大模型上下文。