跳到正文

第 2 章 · Agentic Application 参考架构 ​

核心观点 + 逻辑框架(架构篇收口)

原书章节 ↗

▍速览 ​

一句话版(开场,约 20 秒)

Agentic Application 的核心不是某个框架或模型,而是一组责任清晰、可独立演进、又通过生命周期闭环协作的系统能力。架构用三个视图理解(组件/平台/生命周期)、五个责任域承载、五阶段闭环演进——目的是对每一项被授予的自主性,建立对等的执行、观测、安全和评估能力。

一段话版(展开,约 60–90 秒)

Agentic Application 的架构可以落成一张可执行的蓝图,核心是三条主线。第一,用三个互相正交的视图理解同一套系统:组件视图回答"系统由什么组成",避免能力遗漏;平台视图回答"在哪里运行、谁负责",避免责任混乱;生命周期视图回答"如何从决策走向运行并被改进",避免把一次演示误当成可运营系统——三个视图不能互相推导。第二,五个能力责任域:业务与应用层、Agent 构建与编排层、生产运行层、治理与控制层、调优层,其中 Security 横跨五层。第三,五阶段闭环:架构设计 → 构建 → 运行 → 治理 → 调优,最小可复现单元是 Agent Release(要绑定模型、Harness 编排、Prompt、工具权限、运行环境、评估基线六类要素);治理既是独立阶段,也是贯穿全生命周期的横切约束;调优产生的变更必须回流到构建、重新过准入门禁,而不是让 Agent 在生产里自由改自己。贯穿的原则是:凡被授予的自主性,都必须有对等的边界、证据和验证;架构的目的不是把系统做大,而是选择与风险匹配的最低充分架构。

  • 三个视图:组件(组成)·平台(运行/负责)·生命周期(演进)
  • 五个责任域:业务应用·构建编排·生产运行·治理控制·调优
  • 五项原则:Model/Harness 解耦·编排/Runtime 解耦·状态外置·自主性↔权限可验证·观测前置
  • 三平面:执行面·数据资源面·控制面
  • 五阶段闭环:架构设计→构建→运行→治理→调优

一句话(收尾)

架构的目的不是把系统做大,而是对每一项被授予的自主性,建立对等的执行、观测、安全和评估能力。

▍逻辑框架(记忆卡片) ​

① 命题:三个视图理解同一套系统,互不推导 ​

  • 组件视图:系统由什么组成 (避免能力遗漏)
  • 平台视图:在哪里运行、谁负责 (避免责任混乱)
  • 生命周期视图:如何从决策到运行并被治理改进 (避免把演示误当可运营系统)

三个视图不能互相推导:讨论任何能力,先确认当前站在哪个视图。

② 机制:五个能力责任域 ​

  • 业务与应用层:定义目标 · 形态 · 验收,不实现通用能力
  • 构建与编排层:Model + Harness 编排 + Context + 能力,组织任务循环
  • 生产运行层:调度 · 状态 · 工作区 · 隔离 · 恢复 · 流量 · 资源管理
  • 治理与控制层:发布 · 资源 · 版本 · 策略 · 审计
  • 调优层:Trace → 评估 → 候选变更 → 验证证据

Security 横跨五层,不是挂在某一层的单一组件。

③ 构建层内:Harness 编排层七项能力(原书 2.2.2 表 2-2) ​

  • ① Agent Loop 与终止条件:模型调用 · 工具调用 · 结果回送 · 重试 · 停止 · 恢复 · 预算约束 (失效:任务无法收敛,出现无终止循环或预算失控)
  • ② Instruction 与 Context Engineering:系统指令 · 任务说明 · 历史 · 工具描述 · 记忆 · 检索结果 · 环境状态的选择与编排 (失效:关键信息被淹没,模型在长上下文中偏离目标)
  • ③ Planning 与 Delegation:待办列表 · 阶段目标 · 子 Agent · 并行执行 · Handoff · 结果聚合 (失效:复杂任务缺少阶段划分,失败后无法定位与续接)
  • ④ Tool 与 Skill 管理:能力注册 · 渐进式披露 · 参数校验 · 结果截断 · 大结果外置 · 工具失败分类 (失效:工具描述挤占上下文,工具错误被当成模型错误)
  • ⑤ Middleware 与 Policy Hook:模型/工具调用、状态变更与输出前后执行权限 · 审批 · 审计 · 内容过滤及自定义逻辑 (失效:策略只能依赖提示词,模型可以绕过约束)
  • ⑥ Compaction 与 Continuation:对话压缩 · 上下文重置 · 文件式交接 · 跨上下文窗口的任务续行 (失效:长任务在上下文耗尽时中断,或压缩过程改变任务事实)
  • ⑦ Steering · HITL · Verification:运行中修正目标 · 关键动作前请求审批 · 结束前测试 · 评审 · 完整性检查 · 环境状态验证 (失效:高风险动作缺少人类监督,任务“看起来完成”但结果不可信)

编排层决定模型看到什么、能调用什么、什么时候停止、结果在交付前通过哪些验证;七项能力任一缺失,概率性判断就无法组织成可控执行。

④ 方案:五项设计原则 ​

  • A Model 与 Harness 解耦:模型可替换,不实现强绑定
  • B 编排层与 Runtime 解耦:切换托管不重写任务逻辑
  • C 状态外置、执行实例可替换:长任务恢复的前提
  • D 自主性与权限、可验证性匹配:最小权限 · 短期凭证 · 沙箱 · 审批
  • E 可观测、安全、评估是运行前提,不是上线之后打的补丁

⑤ Model 选型五维与路由降级(原书 2.2.1) ​

  • 五维评估:① 领域与任务类型基础能力;② 长上下文指令遵循 · 信息筛选 · 抗干扰;③ 工具参数生成 · 结果理解 · 错误修正 · 多步调用稳定性;④ 延迟 · 价格 · 上下文成本 · 并发限制 · 区域可用性;⑤ 数据保留 · 隐私 · 合规 · 私有化 · 运营边界 (前三项决定能否完成任务,后两项决定能否在企业内规模化运行)
  • Model Router:按任务类型 · 预算 · 数据边界 · 当前负载路由;路由与降级策略都会改变 Agent 行为,必须与完整 Harness 一起回归评估,协议兼容 ≠ 能力等价
  • 降级失败模式:降级模型在协议层可正常返回工具调用,多步任务中却丢失中间约束,最终产出结构合法却结果错误的执行

⑥ 平台责任划分:三个平面 ​

  • 执行面:真实跑 Loop,可弹性、可失败
  • 数据与资源面:保存可恢复事实,定义一致性与租户边界
  • 控制面:版本 · 身份 · 策略 · 配额 · 审计;集中定义、判定点分布式执行,避免强同步依赖

⑦ 关键边界:概念不混用 ​

Context 本次调用看到什么 · State 任务已发生什么(需持久) · Memory 跨会话经验 · Knowledge 组织知识 · Skill 怎么做

  • Tool / Protocol / Environment 三者区分
  • Runtime 管任务生命周期;Sandbox 限定行动影响范围,边界清晰
  • AI Gateway 按治理粒度分 LLM / MCP / Agent 三层

⑧ 收口:五阶段闭环 + Agent Release ​

  • 架构设计 → 构建 → 运行 → 治理 → 调优,由生产事实驱动新版本

模型 · Harness 编排 · Prompt·Context Policy · 工具权限 · 运行环境 · 评估基线

最小可复现单元是 Agent Release,六类要素绑定成可回滚版本;调优变更回流构建、重新过门禁,治理既是独立阶段也是贯穿全程的横切约束。

部署形态:内嵌 SDK · 托管 Harness 与 Runtime · 托管控制面 + 私有执行面 · 全自托管

▍逻辑全景图 · 图 1 · 五个能力责任域 × 三个平面(Security 横跨五层) ​

五层责任域纵向承载系统能力,三个平面划分平台职责,Security 作为横切约束贯穿全部层级。

  • 业务与应用层 / 核心
  • 构建编排 · 生产运行(执行面)
  • 治理与控制(控制面)/ 观测评估
  • Security 横切
  • 数据与资源面 / 中性

读法:① 左侧五层责任域从上到下承接业务目标到调优反馈,橙色竖条为 Security,贯穿全部层级而非独立组件;② 底部三平面划分平台职责——执行面真实跑 Loop,数据与资源面保存可恢复事实与租户边界,控制面集中定义策略、分布式执行判定。面试一句话:三个视图互不推导,五层责任域加三平面,对被授予的每一份自主性配上对等的边界、证据与验证。

▍逻辑全景图 · 图 2 · 五阶段闭环:架构设计→构建→运行→治理→调优 + Agent Release 六要素回流 ​

由生产事实驱动新版本;Agent Release 绑定最小可复现单元,调优变更回流构建重过门禁。

  • 架构设计 / 核心阶段
  • 构建 · 运行(执行)
  • 治理(阶段 + 横切)
  • 调优回流 / 准入门禁
  • 中性描述

读法:① 主链路架构设计→构建→运行→治理→调优五阶段由生产事实驱动;② 构建阶段绑定 Agent Release 六要素作为最小可复现单元;③ 调优产出的候选变更沿橙色虚线回流构建、重过门禁,治理同时作为横切约束贯穿全程。面试一句话:闭环不把治理留给上线补丁,Agent 不在生产里自由改自己,自主性必须有对等的边界、证据和验证。

▍书中关键图(SVG 重绘版·示意)表 2-2 · Harness 编排层七项能力与缺失失效模式(原书 2.2.2) ​

七项能力支撑模型之外的任务循环组织;第三列是该能力缺失时生产环境中的常见失效模式,用于说明能力为何不可省略。

能力主要职责缺失时的常见失效模式
1 Agent Loop 与终止条件模型调用 · 工具调用 · 结果回送 · 重试;停止 · 恢复 · 预算约束任务无法收敛:出现无终止循环,或预算失控
2 Instruction 与 Context Engineering系统指令 · 任务说明 · 历史 · 工具描述 · 记忆 · 检索结果 · 环境状态的选择与编排关键信息被淹没,模型在长上下文中偏离目标
3 Planning 与 Delegation 委派待办列表 · 阶段目标 · 子 Agent · 并行执行;Handoff 与结果聚合复杂任务缺少阶段划分,失败后无法定位与续接
4 Tool 与 Skill 能力管理能力注册 · 渐进式披露 · 参数校验 · 结果截断;大结果外置 · 工具失败分类工具描述挤占上下文,工具错误被当成模型错误
5 Middleware 与 Policy Hook 策略钩子模型/工具调用、状态变更与输出前后;权限 · 审批 · 审计 · 内容过滤与自定义逻辑策略只能依赖提示词,模型可以绕过约束
6 Compaction 与 Continuation 续行对话压缩 · 上下文重置 · 文件式交接;跨上下文窗口的任务续行长任务在上下文耗尽时中断,或压缩过程改变任务事实
7 Steering · HITL 与 Verification 验证运行中修正目标 · 关键动作前请求审批;结束前测试 · 评审 · 完整性检查 · 环境状态验证高风险动作缺少人类监督,任务“看起来完成”但结果不可信

示意 · 按原书 2.2.2 表 2-2 重绘。七项能力不是静态清单:模型能力增强后,为旧模型缺陷设计的复杂脚手架需要随模型迭代重新评估;模型固定时,也可通过 Trace 分析、错误聚类、完成前验证与循环检测优化编排逻辑。面试一句话:Harness 编排层把概率性判断组织成可控执行,七项能力各自对应一类生产失效模式,缺一不可省。

把 AI 工程讲到既懂也会用