主题
第 2 章 · Agentic Application 参考架构
核心观点 + 逻辑框架(架构篇收口)
▍速览
一句话版(开场,约 20 秒)
Agentic Application 的核心不是某个框架或模型,而是一组责任清晰、可独立演进、又通过生命周期闭环协作的系统能力。架构用三个视图理解(组件/平台/生命周期)、五个责任域承载、五阶段闭环演进——目的是对每一项被授予的自主性,建立对等的执行、观测、安全和评估能力。
一段话版(展开,约 60–90 秒)
Agentic Application 的架构可以落成一张可执行的蓝图,核心是三条主线。第一,用三个互相正交的视图理解同一套系统:组件视图回答"系统由什么组成",避免能力遗漏;平台视图回答"在哪里运行、谁负责",避免责任混乱;生命周期视图回答"如何从决策走向运行并被改进",避免把一次演示误当成可运营系统——三个视图不能互相推导。第二,五个能力责任域:业务与应用层、Agent 构建与编排层、生产运行层、治理与控制层、调优层,其中 Security 横跨五层。第三,五阶段闭环:架构设计 → 构建 → 运行 → 治理 → 调优,最小可复现单元是 Agent Release(要绑定模型、Harness 编排、Prompt、工具权限、运行环境、评估基线六类要素);治理既是独立阶段,也是贯穿全生命周期的横切约束;调优产生的变更必须回流到构建、重新过准入门禁,而不是让 Agent 在生产里自由改自己。贯穿的原则是:凡被授予的自主性,都必须有对等的边界、证据和验证;架构的目的不是把系统做大,而是选择与风险匹配的最低充分架构。
- 三个视图:组件(组成)·平台(运行/负责)·生命周期(演进)
- 五个责任域:业务应用·构建编排·生产运行·治理控制·调优
- 五项原则:Model/Harness 解耦·编排/Runtime 解耦·状态外置·自主性↔权限可验证·观测前置
- 三平面:执行面·数据资源面·控制面
- 五阶段闭环:架构设计→构建→运行→治理→调优
一句话(收尾)
架构的目的不是把系统做大,而是对每一项被授予的自主性,建立对等的执行、观测、安全和评估能力。
▍逻辑框架(记忆卡片)
① 命题:三个视图理解同一套系统,互不推导
- 组件视图:系统由什么组成 (避免能力遗漏)
- 平台视图:在哪里运行、谁负责 (避免责任混乱)
- 生命周期视图:如何从决策到运行并被治理改进 (避免把演示误当可运营系统)
三个视图不能互相推导:讨论任何能力,先确认当前站在哪个视图。
② 机制:五个能力责任域
- 业务与应用层:定义目标 · 形态 · 验收,不实现通用能力
- 构建与编排层:Model + Harness 编排 + Context + 能力,组织任务循环
- 生产运行层:调度 · 状态 · 工作区 · 隔离 · 恢复 · 流量 · 资源管理
- 治理与控制层:发布 · 资源 · 版本 · 策略 · 审计
- 调优层:Trace → 评估 → 候选变更 → 验证证据
Security 横跨五层,不是挂在某一层的单一组件。
③ 构建层内:Harness 编排层七项能力(原书 2.2.2 表 2-2)
- ① Agent Loop 与终止条件:模型调用 · 工具调用 · 结果回送 · 重试 · 停止 · 恢复 · 预算约束 (失效:任务无法收敛,出现无终止循环或预算失控)
- ② Instruction 与 Context Engineering:系统指令 · 任务说明 · 历史 · 工具描述 · 记忆 · 检索结果 · 环境状态的选择与编排 (失效:关键信息被淹没,模型在长上下文中偏离目标)
- ③ Planning 与 Delegation:待办列表 · 阶段目标 · 子 Agent · 并行执行 · Handoff · 结果聚合 (失效:复杂任务缺少阶段划分,失败后无法定位与续接)
- ④ Tool 与 Skill 管理:能力注册 · 渐进式披露 · 参数校验 · 结果截断 · 大结果外置 · 工具失败分类 (失效:工具描述挤占上下文,工具错误被当成模型错误)
- ⑤ Middleware 与 Policy Hook:模型/工具调用、状态变更与输出前后执行权限 · 审批 · 审计 · 内容过滤及自定义逻辑 (失效:策略只能依赖提示词,模型可以绕过约束)
- ⑥ Compaction 与 Continuation:对话压缩 · 上下文重置 · 文件式交接 · 跨上下文窗口的任务续行 (失效:长任务在上下文耗尽时中断,或压缩过程改变任务事实)
- ⑦ Steering · HITL · Verification:运行中修正目标 · 关键动作前请求审批 · 结束前测试 · 评审 · 完整性检查 · 环境状态验证 (失效:高风险动作缺少人类监督,任务“看起来完成”但结果不可信)
编排层决定模型看到什么、能调用什么、什么时候停止、结果在交付前通过哪些验证;七项能力任一缺失,概率性判断就无法组织成可控执行。
④ 方案:五项设计原则
- A Model 与 Harness 解耦:模型可替换,不实现强绑定
- B 编排层与 Runtime 解耦:切换托管不重写任务逻辑
- C 状态外置、执行实例可替换:长任务恢复的前提
- D 自主性与权限、可验证性匹配:最小权限 · 短期凭证 · 沙箱 · 审批
- E 可观测、安全、评估是运行前提,不是上线之后打的补丁
⑤ Model 选型五维与路由降级(原书 2.2.1)
- 五维评估:① 领域与任务类型基础能力;② 长上下文指令遵循 · 信息筛选 · 抗干扰;③ 工具参数生成 · 结果理解 · 错误修正 · 多步调用稳定性;④ 延迟 · 价格 · 上下文成本 · 并发限制 · 区域可用性;⑤ 数据保留 · 隐私 · 合规 · 私有化 · 运营边界 (前三项决定能否完成任务,后两项决定能否在企业内规模化运行)
- Model Router:按任务类型 · 预算 · 数据边界 · 当前负载路由;路由与降级策略都会改变 Agent 行为,必须与完整 Harness 一起回归评估,协议兼容 ≠ 能力等价
- 降级失败模式:降级模型在协议层可正常返回工具调用,多步任务中却丢失中间约束,最终产出结构合法却结果错误的执行
⑥ 平台责任划分:三个平面
- 执行面:真实跑 Loop,可弹性、可失败
- 数据与资源面:保存可恢复事实,定义一致性与租户边界
- 控制面:版本 · 身份 · 策略 · 配额 · 审计;集中定义、判定点分布式执行,避免强同步依赖
⑦ 关键边界:概念不混用
Context 本次调用看到什么 · State 任务已发生什么(需持久) · Memory 跨会话经验 · Knowledge 组织知识 · Skill 怎么做
- Tool / Protocol / Environment 三者区分
- Runtime 管任务生命周期;Sandbox 限定行动影响范围,边界清晰
- AI Gateway 按治理粒度分 LLM / MCP / Agent 三层
⑧ 收口:五阶段闭环 + Agent Release
- 架构设计 → 构建 → 运行 → 治理 → 调优,由生产事实驱动新版本
模型 · Harness 编排 · Prompt·Context Policy · 工具权限 · 运行环境 · 评估基线
最小可复现单元是 Agent Release,六类要素绑定成可回滚版本;调优变更回流构建、重新过门禁,治理既是独立阶段也是贯穿全程的横切约束。
部署形态:内嵌 SDK · 托管 Harness 与 Runtime · 托管控制面 + 私有执行面 · 全自托管
▍逻辑全景图 · 图 1 · 五个能力责任域 × 三个平面(Security 横跨五层)
五层责任域纵向承载系统能力,三个平面划分平台职责,Security 作为横切约束贯穿全部层级。
- 业务与应用层 / 核心
- 构建编排 · 生产运行(执行面)
- 治理与控制(控制面)/ 观测评估
- Security 横切
- 数据与资源面 / 中性
读法:① 左侧五层责任域从上到下承接业务目标到调优反馈,橙色竖条为 Security,贯穿全部层级而非独立组件;② 底部三平面划分平台职责——执行面真实跑 Loop,数据与资源面保存可恢复事实与租户边界,控制面集中定义策略、分布式执行判定。面试一句话:三个视图互不推导,五层责任域加三平面,对被授予的每一份自主性配上对等的边界、证据与验证。
▍逻辑全景图 · 图 2 · 五阶段闭环:架构设计→构建→运行→治理→调优 + Agent Release 六要素回流
由生产事实驱动新版本;Agent Release 绑定最小可复现单元,调优变更回流构建重过门禁。
- 架构设计 / 核心阶段
- 构建 · 运行(执行)
- 治理(阶段 + 横切)
- 调优回流 / 准入门禁
- 中性描述
读法:① 主链路架构设计→构建→运行→治理→调优五阶段由生产事实驱动;② 构建阶段绑定 Agent Release 六要素作为最小可复现单元;③ 调优产出的候选变更沿橙色虚线回流构建、重过门禁,治理同时作为横切约束贯穿全程。面试一句话:闭环不把治理留给上线补丁,Agent 不在生产里自由改自己,自主性必须有对等的边界、证据和验证。
▍书中关键图(SVG 重绘版·示意)表 2-2 · Harness 编排层七项能力与缺失失效模式(原书 2.2.2)
七项能力支撑模型之外的任务循环组织;第三列是该能力缺失时生产环境中的常见失效模式,用于说明能力为何不可省略。
| 能力 | 主要职责 | 缺失时的常见失效模式 |
|---|---|---|
| 1 Agent Loop 与终止条件 | 模型调用 · 工具调用 · 结果回送 · 重试;停止 · 恢复 · 预算约束 | 任务无法收敛:出现无终止循环,或预算失控 |
| 2 Instruction 与 Context Engineering | 系统指令 · 任务说明 · 历史 · 工具描述 · 记忆 · 检索结果 · 环境状态的选择与编排 | 关键信息被淹没,模型在长上下文中偏离目标 |
| 3 Planning 与 Delegation 委派 | 待办列表 · 阶段目标 · 子 Agent · 并行执行;Handoff 与结果聚合 | 复杂任务缺少阶段划分,失败后无法定位与续接 |
| 4 Tool 与 Skill 能力管理 | 能力注册 · 渐进式披露 · 参数校验 · 结果截断;大结果外置 · 工具失败分类 | 工具描述挤占上下文,工具错误被当成模型错误 |
| 5 Middleware 与 Policy Hook 策略钩子 | 模型/工具调用、状态变更与输出前后;权限 · 审批 · 审计 · 内容过滤与自定义逻辑 | 策略只能依赖提示词,模型可以绕过约束 |
| 6 Compaction 与 Continuation 续行 | 对话压缩 · 上下文重置 · 文件式交接;跨上下文窗口的任务续行 | 长任务在上下文耗尽时中断,或压缩过程改变任务事实 |
| 7 Steering · HITL 与 Verification 验证 | 运行中修正目标 · 关键动作前请求审批;结束前测试 · 评审 · 完整性检查 · 环境状态验证 | 高风险动作缺少人类监督,任务“看起来完成”但结果不可信 |
示意 · 按原书 2.2.2 表 2-2 重绘。七项能力不是静态清单:模型能力增强后,为旧模型缺陷设计的复杂脚手架需要随模型迭代重新评估;模型固定时,也可通过 Trace 分析、错误聚类、完成前验证与循环检测优化编排逻辑。面试一句话:Harness 编排层把概率性判断组织成可控执行,七项能力各自对应一类生产失效模式,缺一不可省。