跳到正文

项目总览与定位 ​

一句话:企业智能体平台不是“再做一个更聪明的 Agent”,而是把模型、工具、技能、知识和执行环境收敛成一套共享基础设施,让业务线只描述场景;换来的是规模化与可控,代价是要长期承担平台工程和组织治理。

适用:2026 年企业级 Agent 平台实践。四层是责任视图,七层是交付视图;治理贯穿各层,不单独设“第八层”。协议与组件能力以官方文档为准。

为什么需要 ​

平台化之前,常见形态是每个业务团队各接一套模型、各写一版提示词、各自封装内部系统。前三个场景还能靠人扛,到第十个场景会同时暴露三个问题:

  • 能力重复建设:同一个数据库查询、同一份制度文档、同一套身份核验,被不同团队分别接了三遍,口径还不一致。
  • 权限与审计失控:每个应用各自持有长期凭证,AI 以什么身份、调了什么、结果给了谁,说不清也查不到。
  • 替换成本极高:换模型、换编排框架、从内网迁到云上,业务代码要跟着重写,最后没人敢动。

平台要回答的不是“怎么让模型更聪明”,而是四个运营问题:谁能用哪些能力、以什么权限用、花了多少成本、出了问题拿什么证据还原。把这些问题收敛到平台层,业务团队才只需要关心场景本身。

核心机制 ​

先划边界:平台不替代什么 ​

做不做
统一模型接入、工具网关、技能与知识供给替代核心交易、账务等既有系统
提供运行环境、调度、状态与恢复替代业务人员的判断与责任
统一身份、权限、审计、配额与成本做一个什么都能聊的通用聊天机器人
把重复场景沉淀为可复用 Skill为单个场景写一次性脚本并长期维护

边界不清的平台会同时得罪两类人:业务方嫌它不够贴场景,基础设施团队嫌它把业务逻辑吸进平台。判断标准是“这件事是否被多个场景重复需要”,是则上平台,否则留在场景侧。

四层逻辑架构 ​

四层从上到下是责任递进,不是调用顺序:治理层说“不许做什么”,平台层说“任务怎么跑”,能力层提供“用什么做”,基础设施层提供“在哪跑”。看这张图只要抓两条线——实线向下是依赖,上层可以换下层实现;虚线是治理绕开中间层直接落到能力和资源上,它不做成一层,是因为治理必须每时每刻约束每一层,而不是上线前检查一次。

这样切的好处是替换单层不影响其他层;代价是跨层调用变多,必须有统一的身份、trace 和配额贯穿。

七层工程模型 ​

逻辑架构回答“谁负责什么”,工程模型回答“按什么顺序交付”。两者不是一一对应:治理能力渗透在每一层,而不是单独一层。

工程层主要组件交付判据
L1 接入API 网关、SSO、限流、协议转换鉴权、租户隔离、入口限流可用
L2 会话路由意图识别、边界判定、任务路由多轮延续判断准确率达标
L3 编排图编排、Supervisor、人工审批固定 DAG 与多 Agent 协作可跑
L4 运行态沙箱、Pod 池、生命周期管理任务可中断、可恢复、可回收
L5 状态Redis、关系库、向量库、对象存储记忆可读写、可隔离、可审计
L6 生态市场MCP 注册、Skill 市场、知识摄入新能力可发布、可审核、可下线
L7 模型网关路由、熔断、降级、计量多模型可切换、成本可归集

口径统一为 L1 接入 → L2 会话路由 → L3 编排 → L4 运行态 → L5 状态 → L6 生态市场 → L7 模型网关。旧资料里把“可观测治理”放成 L7、把模型层放成 L6 的写法,是把交付层和横切能力混在一起;本书不再保留“第八层治理”,治理作为横切约束落在每层的准入、审计和配额里。按层交付的意义是每层都有独立验收标准,把“平台上线”当成一个整体里程碑,通常会导致所有层都差一点,却没有任何一层可以独立证明可用。

双闭环:同一套代码,两种基础设施 ​

维度内网闭环互联网闭环
模型自托管推理集群公有云模型 API
沙箱自托管隔离运行时托管沙箱服务
向量库 / 存储自建集群 + 兼容 S3 的对象存储托管向量库与对象存储
可观测自托管追踪与评测托管追踪服务
网络默认拒绝出站,白名单放行正常出站 + WAF + 租户隔离
适用涉及内部数据、强合规场景面向外部用户、非敏感场景

双闭环的关键不是部署两套,而是把差异收敛到基础设施适配层:编排、技能和业务代码保持一致,只切换部署配置。如果业务代码里出现 if 内网,说明抽象漏了,后面每加一个环境都会再漏一次。

三层治理:优先级,而不是并列 ​

层性质能否被业务覆盖典型内容
Constitution系统级硬规则不能默认拒绝出站、不可逆操作必须人工确认、审计不可删除
Guidance业务域规则可按域配置审批流程、检索策略、限流、预算
Context运行时约束随会话计算当前用户权限、token 预算、知识域、相关性阈值

三层不是并列配置,而是优先级:Constitution 永远压过 Guidance 和 Context。这样设计的原因很直接——如果业务配置可以把“数据不得出网”调低,那它就不是红线,只是一条建议。

四大基石与四种范式 ​

基石职责关键设计
Runtime执行环境可插拔沙箱、Pod 生命周期、空闲回收
Control Plane调度与治理任务分配、健康检查、生命周期钩子、容错
Skills业务能力声明式定义、四种执行类型、双审发布、版本管理
MCP原子工具注册发现、统一鉴权、限流审计、版本契约

四者的关系是:Control Plane 调度,Runtime 执行,Skill 提供业务步骤,MCP 提供原子操作。缺 Runtime 就只剩提示词,缺 Control Plane 就只能手工运维,缺 Skill 则每个场景重复编排,缺 MCP 则每个工具各写一套适配。

范式自主性确定性适用
工作流型(固定 DAG)低高合规检查、发布审查、故障处置
主管编排型中中多专家协作、需要任务分解的场景
自主型高低探索性分析、信息不完整的调查
对话驱动工具组合中高低中长尾需求、临时数据分析

选型顺序是先看合规与可审计要求,再看任务步骤能否预先枚举,最后才看模型能力。反过来先选“最自主”的范式,通常会在评审阶段被要求补审批、补证据、补回滚,最后又退回工作流。

12 类交互场景与场景叠加 ​

交互场景要穷举,但不必写成大表:单轮问答、多轮对话、多 Agent 协作、文件上传、代码执行、长时任务、流式输出、中断恢复、多模态输入、人工审批、定时触发、并发排队。单看每一类都不难,真需求往往把它们叠在一起——例如“多 Agent 处理上传文件、跑二十分钟、中途断网恢复、关键步骤等人工审批”。叠加后问题不再是“某个功能有没有”,而是“会话状态放哪、预算怎么跨子任务传播、恢复时哪些副作用不能重放、审批挂起时资源怎么释放”。这也是四层与七层必须存在的原因:每一层负责一类横切能力,组合才不会退化成一次性脚本。这 12 类不在本篇逐项展开;业务场景到范式的匹配见 08-落地路线与关键取舍。

实战场景 ​

场景一:平台做成一个应用,第二个业务方接入时全要重做 ​

现象:第二个业务方(风控分析线)来接入,发现要从头重做:权限模型绑死客服的用户体系,审计日志只有客服的字段,想复用一份制度文档检索只能复制代码——第一个版本把模型接入、知识库、身份核验全写死在这一个应用里。平台组被迫抽两人做了六周“拆耦合”专项,第二个业务方才勉强进来;随后第三个团队绕开平台自建,同一份制度文档被接了三遍,口径开始不一致(时间与代价为经验值,需校准)。“第十个场景才暴露”的三个问题,在第二个场景就提前发生了。

排查:按四层责任视图逐层核对,结论是“层”根本没被拆出来,只有一个应用壳。治理层:没有租户维度,审计回答不了“谁以什么身份、调了什么、结果给了谁”。能力层:MCP 与 Skill 没有注册和 owner,复用只能靠复制。平台层:会话路由里混着客服的业务判断,换业务域就要改平台代码。基础设施层反而是唯一完整的——力气全花在离交付最近的一层,责任视图缺了三层。

对症:接入评审先过一张上收判定表,每个候选项只回答一个问题:这件事是否被多个场景重复需要。

候选项被几个场景需要结论
制度文档检索客服、风控、内审收进知识库,挂 owner 与权限标记
工单查询客服、内审注册为 MCP Server,走统一鉴权与限流
客服开场白策略仅客服留在场景侧,不进平台
身份核验全部收进 L1 接入,接 SSO

复盘:平台的交付物是“第二个业务方不用重做权限、审计、供给”。“不做”那一列在接入期最值钱:业务方嫌不贴场景、基础设施团队嫌吸业务,同时得罪两类人的根因都是边界失守,而判断标准从来只有一条——是否被多个场景重复需要。

场景二:一次强合规接入,验证四层与七层到底省了什么 ​

现象:第三个业务方是内网数据分析——数据不得出网、模型只走自托管推理集群,若照客服那次的接入方式,编排和技能供给要全部再写一遍,按前两次实际投入推算就是 6 周(经验值,需校准)。业务方只问了一个问题:这次接入,你们的平台帮我省了什么。

排查:改用七层交付视图做接入盘点,逐层标记复用还是新活:L1 接入复用 SSO 与租户隔离;L2 会话路由新增一条边界判定规则;L3 编排选工作流型范式跑合规检查,固定 DAG 现成;L4 运行态复用 Pod 池的冷 / 暖 / 热回收配置;L5 状态新建知识域;L6 生态市场复用 3 个已有 MCP、1 个已有 Skill;L7 模型网关把路由切到自托管集群。七层过完,真正的新活只剩两处,接入实际两周完成(经验值,需校准)。

对症:接入动作收敛成一次 profile 切换,与最小上手同一条配置链路:

yaml
platform:
  profile: internal        # 只切基础设施适配,编排与 Skill 代码不动
  model_gateway:
    primary: local-primary
    fallback: local-small
    budget_tokens_per_task: 60000
  governance:
    deny_all_egress: true
    audit: append_only

复盘:验证的不是“这次接得快”,而是业务代码里没有出现 if 内网——出现一次,双闭环就退化成两套平台,后面每加一个环境都会再漏一次;新场景边际成本能不能降,才配得上“平台上线”这个词。

场景三:红线被业务配置“合规地”调低 ​

现象:两份标注“内部”的制度全文被外发到公网文档解析 API,涉及 11 个会话(经验值,需校准),合规事故上报——起因只是某业务域赶接入时申请把该 API 加进出站白名单,理由“解析 PDF 提效”,审批走的是平台自己的配置通道,记录齐全。每一步都“合规”,红线却没了,这才暴露三层治理的实现缺陷。

排查:沿审计链回放配置合并过程。网络层本该拦住:默认拒绝出站、白名单放行。查到白名单的下发通道对业务域配置开放,Guidance 层的改动直接改写了系统级规则。平台把 Constitution、Guidance、Context 实现成了三层并列配置,后写的覆盖先写的——“数据不得出网”在这种实现里不是红线,只是一条优先级不稳定的建议。问题定位在治理层,不在提示词,也不在业务域。

对症:把三层优先级做成机制而不是文档——Constitution 永远压过 Guidance 和 Context,冲突的配置进不了生产:

yaml
governance:
  constitution_fields: [deny_all_egress, audit.append_only, require_hitl]
  merge_policy: reject      # 与 Constitution 冲突的配置在发布校验时直接拒绝并落审计
  override_allowed:
    guidance: [budget, approval_flow, retrieval_strategy]
    context: [token_budget, knowledge_domain]

require_hitl 覆盖 delete、publish、payment 三类不可逆操作,任何域配置不得移除;真正兜底的出站拦截放在工具网关和执行环境,配置通道只到 Guidance 的可覆盖字段为止。

复盘:这次事故修复的不是白名单,而是配置合并规则:红线要不可配置,业务配置最多能在 Guidance 与 Context 里选执行方式——这也是三层治理的分工:Constitution 定不可违反的规则,平台层定任务怎么跑,能力层与基础设施层各自兑现,任何一层都不拥有改写红线的权限。

最小上手 ​

不要从“大一统平台”起步。用一个场景、一条链路验证四件事:模型能调、工具能管、状态能存、失败能查。示意配置:

yaml
platform:
  profile: internal          # internal | external,只切基础设施适配
  model_gateway:
    primary: local-primary
    fallback: local-small
    budget_tokens_per_task: 60000
  runtime:
    pool: { min: 2, max: 10, idle_recycle_seconds: 300 }
    sandbox: isolated
  governance:
    deny_all_egress: true
    require_hitl: [delete, publish, payment]
    audit: append_only

跑通判据:同一任务连续执行三次都能在预算内结束;断网后除白名单外全部失败且有审计;Pod 被杀后任务能从检查点恢复;模型切换只改配置、不改业务代码。

生产动作 ​

  • 定 owner:每个 Skill、每个 MCP Server、每个知识库都要有负责人和用途说明,无 owner 不上架。
  • 定 SLO:平台可用性、任务成功率、P95 延迟、恢复时间分别设目标,不要只监控 GPU 利用率。
  • 定额度:按租户、业务域、用户三层设 token 与并发配额,超额降级而不是静默失败;预算与降级阶梯见 09-生产治理与降级。
  • 定版本与证据:能力资产与代码同一条发布链,先影子运行再灰度,下线保留迁移窗口;每次执行记录输入摘要、工具调用、权限判定、输出校验和终止原因,审计按 trace 还原而不是按日志拼凑。
  • 定演练:定期做模型不可用、向量库超时、Pod 批量回收、审计写入失败的故障演练。

边界 ​

  • 十人以下团队通常不需要平台:统一配置、集中凭证和一份发布脚本的收益,远高于自建控制面。
  • 平台不解决业务定义不清:Skill 的输入输出、成功标准和人工介入点说不清,平台只会把混乱固化得更快。
  • 双闭环不是零成本:两套基础设施意味着两套容量、两套监控和两套应急,只有合规或数据边界确实需要时才值得。
  • 治理不能只靠提示词:写在系统提示里的“不要删数据”只是提高概率,真正的边界在工具网关和执行环境。
  • 平台会改变组织分工:能力上收意味着业务团队从“全栈自建”变成“场景定义 + 平台消费”,没有配套的角色与流程,平台会变成新的瓶颈。

讲清楚 ​

企业智能体平台的价值不是让单个 Agent 更聪明,而是把重复的模型接入、工具适配、知识供给、运行调度和治理收敛成共享能力。架构上用四层划责任,用 L1 接入、L2 会话路由、L3 编排、L4 运行态、L5 状态、L6 生态市场、L7 模型网关划交付,治理作为横切约束贯穿七层而不是“第八层”;用双闭环隔离内网与互联网的基础设施差异,用三层治理保证硬规则不被业务配置覆盖,用 Runtime、Control Plane、Skills、MCP 四块基石支撑四种 Agent 范式。真实需求往往来自 12 类交互场景的叠加,落地时先划清“平台不做什么”,再用一个场景验证模型、工具、状态和证据四条链路;平台真正的难点不在技术选型,而在 owner、版本、配额和审计能否长期运转。

适用:2026 年企业级 Agent 平台实践 | 初稿 2026-10

把 AI 工程讲到既懂也会用