← 机制演示库 📋 建设计划 章节知识地图 ↗ / 动画作战地图

AI 工程小册 · 动画作战地图

目标:用动画把 AI Infra 核心机制彻彻底底搞清。这张地图盘点全部核心机制——✓ 已动画化 ✓ B 卷 13 个新动画已补齐(view_15~18 + 09B 排障),缺口清零

91
机制条目(含并入)
75
可播放演示页面
0
已规划
0
动画缺口
🔥 P0 优先补齐(核心最高频 + 你正深挖的方向)
  1. 07D 多 Skill 编排 + 激活态与干扰(你刚问的:同注/fork/tool、code→ppt 切换会不会干扰)
  2. 演示01 发给 LLM 的请求体(消息结构/多轮重发/Cache 前缀,一切的地基)
  3. 演示16 通用 Agent 全链路架构(10 环节骨架动画,你的主线总图)
  4. 演示05 Function Calling 六步(工具调用生命周期)
  5. 演示08 安全五层防御(注入攻防动画,核心要点)
00
平台入口 · AI Infra 全貌(收口)
企业级平台能力矩阵分层✦ 平台新动画打开 →
自动播放 8 幕:散点→平台 → 四层架构(治理/平台/能力/基础设施)→ 七层工程×覆盖度对照(75% 已由 A/B/D/Z 卷讲透)→ 一次请求穿行全平台(Session→Manager→Dispatcher→Executor→LLM Gateway→返回)→ 三市场运营(版本兼容矩阵)→ 模型资产 Model Registry + LLM 智能路由/语义缓存 → 三层治理 + 告警应急闭环 → 运行态 Pod Pool(Manager/Executor 池化、Hot→Cold→销毁)+ AI Infra 全貌收束。
平台入口 · 演示34(企业级平台能力矩阵)
12 场景→Agent 设计✦ 平台新动画打开 →
自动播放 8 幕:场景是设计的源头(业务倒推而非技术倒推)→ 12 场景全景(三大条线×合规等级)→ 范式匹配三规律(确定性→工作流/多源→主管/长尾→自主)→ 信贷审批(HITL 分级切点 0.2/0.7)→ 智能客服(多意图路由+Scope Guard)→ 反欺诈(延迟分层混合范式)→ 能力拆解(12 场景→7 大能力域)→ P0-P3 优先级与收束。
E 卷业务落地 · 演示35(业务场景倒推 Agent 设计)
12 类交互场景→系统能力✦ 平台新动画打开 →
自动播放 8 幕:交互场景是架构源头(业务视角讲「做什么」、交互视角讲「怎么用」两者叠加)→ 12 类交互场景穷举(单轮→并发,遗漏即缺陷)→ 场景叠加组合(3+4+6+8 多 Agent 处理文件跑 20 分钟断网恢复)→ 问题空间(P0 冷启动/状态丢失/级联失败/安全隔离,P1 循环/溢出/成本/观测盲区)→ 七层架构逐层映射(每层治一类问题)→ 双闭环(内网合规+外网弹性,一套代码两套配置)→ 容错六件套+编排六模式(层级化失效仅降 5.5%)→ 收束。
E2 卷交互场景 · 演示36(12 类交互场景 → 系统能力)
系统架构总图穿行✦ 平台新动画打开 →
自动播放 8 幕:全貌即骨架(四层逻辑×七层工程×四范式×三市场×三层治理 三个视角叠加)→ L1 接入层(三协议/鉴权/双维限流防重试风暴)→ L2 会话路由(session/意图/附件四层/任务分发)→ L3 编排层(LangGraph/Checkpoint/HITL/Token 预算,四范式由图结构决定)→ L4 执行层(可插拔沙箱/Pod 生命周期/Watchdog,工具调用不经 K8s 调度)→ L5 状态存储(三层记忆=恢复链路)→ L6 生态市场+LLM Gateway(声明式依赖解耦/双闭环)→ L7 治理横切+收束(从全貌到细节的打通方式)。
E 卷平台入口 · 演示37(系统架构总图穿行)
模型生产闭环穿行✦ 平台新动画打开 →
自动播放 7 幕:一个微调完的模型从「进资产库」到「收钱」再到「回滚」——① 起点(LoRA 微调产物,训练侧到此为止)→ ② 注册入库(Model Registry=模型的 Git)→ ③ 评测准入(离线评测+红队红线 0 违例)→ ④ 灰度发布(5%→100%,每档有观测点+回滚点)→ ⑤ 上线运营(计量→归因→分摊→预算→优化,FinOps 三问)→ ⑥ 事故回滚(注册让回滚秒级)→ ⑦ 退役+治理横切(IAM/Vault/Prompt 资产)。
E 卷平台入口 · 演示38(模型生产闭环穿行)
A
理论卷 · 原理(11 组 43 个机制条目)
认知基础全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A01 全卷 6 篇合并一张思维导图——核心「全卷坐标系」+ 6 大主干(9 认知差/框架坐标 Essential-Accidental/8 设计模式/工程九原则/5 硬边界/因果链 4 金线),可 ⏮⏭ 逐步、点节点跳板块。
A01 认知基础 · 演示01A(动画升级)
发给 LLM 的请求体✓ 动画升级打开 →
自动播放:真实对话展示请求体逐轮生长,请求体窗口看 messages 追加 + Cache 命中(绿)/未命中(红)分区实时变化;反例 Skill 塞 System 中部前缀全断、正确做法附件替换 Cache 保持。
A01 认知基础 · 演示01(动画升级)
LLM 无状态与多轮✓ 已做打开 →
每轮重发全部历史 → 成本 O(n²) 的根源。
A01 · 并入演示01
Agent 循环全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A02 全卷 10 篇合并一张思维导图——循环基石(ReAct/messages)→ 五条路线(图编译/Prompt驱动/状态机/HITL/选型)→ 收敛保障(三层漏斗+死循环四法+O(n²)成本)→ Plan 模式 → 两范式收束(Loop 管不失控 · Graph 管不跑偏,ReAct 为核+Graph 为壳)。
A02 Agent循环 · 演示02A(动画升级)
ReAct 循环✓ 已做打开 →
自动播放:一条「排查CPU」请求走完循环(3 轮 ReAct 定位泄漏);四视角同屏 + ⚡动作/💡讲解双色块 + O(n²) 成本曲线。
A02 · 演示02(动画升级)
循环收敛(三层兜底)✓ 已做打开 →
层0 语义判断失效 → 层1 调用指纹(×5警告/×8终止)→ 层2 预算 MAX_STEPS 硬兜底;O(n²) 成本仪表盘。
A02 · 演示02(动画升级)
多Agent编排全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A06 全卷 9 篇合并一张思维导图——三层模型与五模式(+决策树)→ 图引擎 StateGraph(Kahn 拓扑/条件边默认分支/子图五层隔离)→ 通信与信任边界(Fork/spawn/Department/A2A 四档)→ A2A 协议(AgentCard/Task 状态机/Message/Artifact + 全流程 + 多 Agent 协作平台(聊天室总线))→ 选型与护栏(工作流vsAgent 四层护栏/规划光谱 0.9^5=59%)→ 交接与运行时(热温冷/内核四要素/四协作机制)。
A06 多Agent编排 · 演示06B(动画升级)
多 Agent 编排模式✓ 动画升级打开 →
自动播放:CPU 高负载主线(Router→Supervisor 分解→三子 Agent 并行→Merge 根因),全局状态 状态区实时合并、模式条 5 卡、编译时 vs 运行时、同步/异步/并行、成本坑 + 决策树收尾。
A06/01 · 演示06A(动画升级)
图编译循环 + Checkpoint/HITL✓ 动画升级打开 →
自动播放删库审批:ReAct 编译成 StateGraph 后免费获得持久化/中断/嵌套/可观测;条件路由→Checkpoint 增量存盘→interruptBefore 暂停→HITL 审批→resume 从断点继续。
A02/02+05 · 演示02C(动画升级)
Agent 循环四路线全景✓ 动画升级打开 →
自动播放四路线(Prompt驱动/图编译/Reactive/状态机)逐行对比;通用智能体=Prompt 驱动(无 for/while + MAX_STEPS 兜底);Checkpoint 显式 vs 藏在消息流;行业收敛 + 选型决策。
A02/06+03 · 演示02D(动画升级)
发消息立马干活(流式四层)✓ 动画升级打开 →
自动播放:消息即时触发 + 渲染流式(TTFB≈200ms) + 执行流式(tool_call 状态机增量解析闭合即执行) + 事件驱动(flatMap 并发);两层流式辨析修正(渲染=给用户看 vs 执行=给框架跑)。
B02/03+A02/03 · 演示02E(动画升级)
ReAct 扩展点 + 用户中途打断✓ 动画升级打开 →
自动播放:循环骨架 while(!done){chat→execute→append};9 个扩展点逐行点亮;用户中途插话=消息流改道(新 user 消息插入,LLM 从头读到新指令自己改道)vs HITL 框架暂停;MAX_STEPS 兜底。
A02/01+05 · 演示02B(动画升级)
HITL 人工介入✓ 动画升级打开 →
什么时候必须停下问人;Plan 模式全局 Deadline;删库审批场景;interruptBefore 暂停→HITL 三反馈(接受/拒绝/修改)→resume(并入演示02C)。
A02 · 并入演示02C/02B(动画升级)
Prompt与上下文全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A03 全卷 10 篇合并一张思维导图——缓存第一性→分层→组装→四级架构→压缩全景→行为治理 6 大主干;含逐字节前缀判据(无字段级 Key 哈希)、4 层分层省钱账、9 卡槽与断点位置、167K 可用上限(窗口−输出预留−观察余量)、9 策略四防线 + Commit→Compact→Rebuild→Validate 闭环与限定条件丢失反例、Feature Flag+6 对抗技巧。
A03 Prompt与上下文 · 演示03A(动画升级)
上下文压缩四级架构✓ 动画升级打开 →
自动播放:Token 上涨时 L1缓存→L2 FRC→驱逐磁盘→L3 AutoCompact→L4 持久记忆逐级兜底,窗口占用条+消息列表实时变化;四道防线(先提交/切点安全/压缩后校验/熔断)+ Commit→Compact→Rebuild→Validate 闭环 + 限定条件被压没的真实反例 + 熔断后转人工或降级为只卸载不摘要。
A03 · 演示03(动画升级)
分层上下文 + 缓存边界✓ 已做打开 →
6 部分模型;静态进前缀动态不进;270s 保护。
A03 · 并入演示01
Prompt 组装流水线✓ 动画升级打开 →
自动播放:9 槽位逐槽点亮(稳定前缀/会话级/recency 三档)+ 请求体渲染 System 数组 cache_control 锚点;命中判据是「从第 0 个 token 起逐字节相同的那一段」,没有字段级 Cache Key 哈希;Skill 进 Attachment 是把断点推到尾部、只为增量付费;MCP 连接让 tools 数组变化、断点前移到请求最前面,System 与历史整段重算。
A03/04 · 演示05C(动画升级)
记忆系统全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A04 全卷 6 篇合并一张思维导图——三层记忆(Checkpoint≠Memory/7 后端)→ 长期提取(四类标签/双层管道/Nudge)→ 检索策展(rel×rec×conf/动态 Top-K/Curator)→ 身份人设(SOUL/USER/谁有权写)→ REME 引擎(蒸馏六步/双阈值/预测检索/演进三件套)→ 架构教训(9 段笔记/v1→v2 三子系统)。
A04 记忆系统 · 演示04A(动画升级)
三层记忆 + Checkpoint✓ 动画升级打开 →
自动播放:一条信息沿 工作→会话→持久→下次会话检索注入 四节点流转 + 旅程轨迹;Checkpoint≠Memory 混用 Bug、7 后端选型、写异步读同步、三坑收尾。
A04 · 演示04(动画升级)
工具与MCP全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A05 全卷 4 篇合并一张思维导图——FC 闭环(tools 契约/决策执行分离/tool_call_id 原样回填)→ 工具工程(描述质量:真实事故 91%→76%、10–15 个工具经验上限、元工具)→ MCP(JSON-RPC over stdio/发现调用/断点前移三方案)→ 工具网关(位置透明/路由表/无缝切换)→ 执行安全四模型(ML/三层协商/YAML/Middleware+L1-L3)→ 选型演进(FC vs MCP/A2A)。
A05 工具与MCP · 演示05E(动画升级)
Function Calling 六步✓ 已做打开 →
自动播放:六步管道 + LLM 服务/工具运行时消息往返(tool_calls→并行执行→按 ID 注入→二次请求→final);🤖LLM 决策紫 / ⚙️框架执行蓝主体色区分 + 主导者指示条;工具卡显示实参+返回值;反例段:Schema 校验失败修正 + 同参数指纹拦截。
A05 · 演示05(动画升级)
MCP 协议✓ 动画升级打开 →
自动播放:工具数组+JSON-RPC 消息实时渲染(配置→启动 fork 子进程→tools/list 发现→延迟加载 Schema→mcp__ 前缀翻译→tools/call→结果回传);崩溃重启 + Cache 破裂传导链 + 三方案。
A05 · 演示05A(动画升级)
工具网关:本地/远程透明路由✓ 动画升级打开 →
自动播放:光点沿注册→发现→路由→执行→统一返回流动,路由表实时高亮(改一行路由表迁移工具、Agent 无感);无缝切换三态渲染 + 故障五件套 + 四陷阱。
A05/04 · 演示05B(动画升级)
五种编排模式✓ 已做打开 →
Supervisor/Swarm/Debate/Pipeline/Plan-and-Execute;三层模型(编排/执行/通信)。
A06 · 演示06A
意图识别 + Skill 路由✓ 动画升级打开 →
自动播放 4 轮对话自动切换:每轮重新路由 + totalScore 打分(keyword×3+glob×2+LLM×1)+ 漂移阈值 0.5 + 移除旧注入新 + Cache 生死。
A07 · 演示00(动画升级)
SKILL.md 格式解剖✓ 动画升级打开 →
自动播放:文档解剖区逐段高亮(frontmatter name/desc/allowed-tools/paths 给框架看、body 工作流给 LLM 看)+ 三路径请求体实时渲染 + 生命周期五阶段。
A07 · 演示07B(动画升级)
注入三路径去向✓ 动画升级打开 →
自动播放:inline 进 System 末尾切换时重算 / attachment 进 system-reminder 旧前缀保留、只付本轮尾部增量(仅 Claude Code)/ fork 进独立子 Agent 字节级引用共享父 Cache 前缀(按读价命中,主请求体看不到)+压缩规避三层保障。
A07 · 演示07B(动画升级)
注入频率与历史重发✓ 动画升级打开 →
自动播放:4 轮对话请求体实时生长(R1 注入→R2/R3 随历史 CARRY→R4 切换移除旧注入新),skill 高亮 inj/carry/new 三态 + Cache 状态卡 + AutoCompact 三层保障。
A07 · 演示07C(动画升级)
Skill 生命周期五阶段✓ 已做打开 →
选择→注入→漂移→切换→压缩后重注入;编程→PPT 场景。
A07 · 专题演示
多 Skill 编排 + 干扰治理✓ 动画升级打开 →
自动播放:季度汇报 doc+ppt+email 三场景;Prompt 形态实时渲染三态(同注 Inline Co-injection / Fork 子 Agent Cache 100% / Skill 作 Tool);干扰治理四手段 + 后端类比。
A07/07 · 演示07D(动画升级)
Skill 四层注册中心✓ 动画升级打开 →
自动播放:注册台账逐行高亮(skillId=name+source 命名空间、body 不注册)→沙箱(SHA-256+14 类扫描+懒加载、信任四档)→路由(倒排索引+find-skill 自愈)→生命周期(驻留/semver/回收)。
A07/05 · 演示07F(动画升级)
Skill 系统全貌思维导图✓ 动画升级打开 →
自动播放:A07 全卷 8 篇合并成一张思维导图,光点沿 5 大主干(格式触发/执行/分发/自建进化/注册中心)+ 2 横向维度(对比选型/多Skill组合)巡游逐板块讲解;左侧章节逻辑合并总览 + 知识点一句话总结整章。
A07 全卷 · 演示07A(动画升级)
安全与沙箱全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A08 全卷 6 篇合并一张思维导图——五层模型(L1-L5+框架覆盖矩阵)→ 权限与沙箱(策略层vs机制层/沙箱三层深度/升级协商)→ 错误恢复(先分类再施策/四层容错)→ Prompt 注入攻防(三类注入/五道闸门)→ MCP 风险五级(R0-R4/四维打分)→ 信任主干(RBAC/ABAC/PBAC+审计链+五层沙箱)。
A08 安全与沙箱 · 演示08B(动画升级)
安全五层防御✓ 动画升级打开 →
自动播放:curl|bash 恶意调用沿五层决策链流动,RCE-201 命中 DENY,工具调用卡+审计日志 correlation_id 贯穿,坑 TOCTOU/无声黑洞/参数绕过,覆盖矩阵+组合方案。
A08 · 演示08(动画升级)
Prompt 注入攻防✓ 已做打开 →
间接注入/混淆逃逸/防御对策;五层防御含三套检测引擎。
A08 · 并入演示08
可观测与评测全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A09 全卷 7 篇合并一张思维导图——链路追踪(LLM 决策纳入 Span/双轨制/采样分级)→ 成本可观测(Cache 命中率=最大杠杆/三级归因/模型路由降本)→ LLM-as-Judge(三种方案/四类偏差/三层数据集/CI-CD 门禁/Critic 闭环)→ 测试策略(四层金字塔隔离非确定性/Mock LLM)→ 确定性与可复现(四个随机来源/四层策略)→ 反指标博弈(Goodhart/三道防线/每周审计)。
A09 可观测与评测 · 演示09B(动画升级)
LLM-as-Judge 评测门禁✓ 动画升级打开 →
自动播放:四维指标卡实时打分(完成率×0.5+工具效率×0.2+安全×0.2+成本×0.1)→ QS 0.72 黄灯人工 Review;门禁三档色灯 + A/B 统计检验 + 四类偏差 + 防刷分。
A09 · 演示09(动画升级)
Agent 链路追踪 + 成本可观测✓ 已做打开 →
自动播放:Agent Trace 单位从 HTTP/DB 变成 LLM 决策/工具执行,每轮 ReAct 三 Span(REASON/ACT/OBSERVE),成本大头在 Cache 命中率(90% vs 50% → 比值约 2.9 倍,命中价按 10% 计,非 3-5 倍)、三级归因、命中率阈值、异常检测三规则、模型路由降本。
A09 · 演示09A(本轮补)
RAG与知识全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A10 全卷 6 篇合并一张思维导图——RAG 流水线(11 步全管道/RAGAS 五指标)→ 向量数据库(三件套/ivfflat·hnsw/向量+BM25/选型)→ Agent 与 RAG 深度融合(七维差异/三种触发/CoT+RAG/Agentic RAG)→ RAG 六大坑(切断/不匹配/污染/相似≠相关/过期/多源)→ 分块权衡(两个互斥目标/五种做法/四个坑/怎么验证)。
A10 RAG与知识 · 演示10C(动画升级)
RAG 流水线 11 步✓ 动画升级打开 →
自动播放:一条 K8s 排查手册从入库到回答,文档窗看真实内容(清洗→结构感知切分 wiki 标题/表格→向量化→入库),在线 HyDE→Top-5→Rerank 过滤假阳性→上下文扩展→注入→LLM 生成,RAGAS 五指标收尾 + 分块权衡(结构优先、长度兜底、重叠最后加)。
A10 · 演示10(动画升级)
向量数据库原理✓ 已做打开 →
自动播放:核心不是存向量是存检索最准的结构(content+embedding+metadata 三件套);ivfflat 分桶(百万级) vs hnsw 图(千万级)、余弦距离 <=>、metadata 过滤、向量+BM25 混合、阈值 0.7 降级、上下文扩展、写慢读快。
A10 · 演示10B(本轮补)
自进化全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:A11 全卷 5 篇合并一张思维导图——自进化循环(三层进化/四大系统闭环/四条件/复利效应)→ 自进化型产品的策展器(400 行 Prompt 驱动/四 Phase/Fork 共享 Cache/防递归五开关)→ 两条发布管道(Agent 运行时 分钟级 vs AgentScope 天级/14 类威胁×4 级信任)→ 安全与回滚(四类失控/版本化/三层门禁/渐进式/三治理模式)。
A11 自进化 · 演示11B(动画升级)
自进化循环✓ 已做打开 →
自动播放:自进化=CI/CD 的 Agent 版本,七步流水线(提取→整理→识别→生成→扫描→确认→复用);①-③记忆系统 ④-⑦自进化;三层次(L1 记忆成熟/L2 技能探索中/L3 策略空白);四系统闭环(Memory 记住/Skill 会做/Nudge 提醒/Curator 整理);复利效应;从不删除只归档。
A11 · 演示11(本轮补)
B
落地卷 · 生产与生态(B01~B06)
生产级循环:11 状态状态机✓ 已做打开 →
自动播放动画:请求在状态机图上自动流转,Deadline/Token 仪表盘实时走动,HITL 真点审批,死循环被指纹检测拦截。LLM 只在 THINK 决策;五重预算+安全阀链。
B03/02 · 演示12(动画升级)
五重预算✓ 已做打开 →
时间/步数/模型/工具/Token 五维上限;演示12 动画含五重预算+安全阀链。
B03/20 · 并入演示12/02
五层 Prompt 注入架构✓ 已做打开 →
自动播放:Prompt 不是一大坨是五层(框架层 agent_loop→产品层 working_modes→配置层 ToneStyle→上下文层 Memory→Skill 层 SKILL.md);分层判据=变更频率×负责人;记忆三阶段注入 记忆注入器_1/2/3 避免上下文稀释;好处三条。
B03/13 · 演示05D(本轮补)
Agent 成本与 Token 经济学✓ 已做打开 →
每轮全量重发的成本曲线;优化手段(演示01 请求体 + 演示03 四级压缩)。
B03/01 · 并入演示01/03
SKILL 工程化三级加载✓ 已做打开 →
轻/中/重三级加载与元技能(同注 vs Fork vs 作 Tool,演示07D)。
B03/11 · 并入演示07D
Harness 与 Payload 分离✓ 动画升级打开 →
自动播放 4 场景:传统耦合(一次请求=完整上下文)→ 分离模式(Harness 框架数据 / Payload 任务数据分槽)→ 三问题五决策(放哪/何时变/谁可见)→ 收益对比(Cache 命中/并发安全/上下文精简)+ 代码对比。
B01 · 演示25A(B 卷新动画)
AgentScope 生态三位一体✓ 动画升级打开 →
自动播放 5 场景:生态=框架+模型+开发者三环;三位一体=Agent 包(ReAct 内核)+ Skill 包(七环节闭环环形图 dot 逐点点亮)+ Model 包(38 家路由);框架四件套(Loop/Session/Event/Tool+Hook)。
B01 · 演示25B(B 卷新动画)
DeepSeek Harness 无特权内核✓ 动画升级打开 →
自动播放 6 场景:Model+Harness=Agent;Cordis v4 元框架(DI/生命周期/事件总线);一切皆插件无特权内核;append-only SessionEvent 唯一事实源(事件日志逐条点亮:类型+时间戳+序号+载荷,turn=0+step);四种模式(标准/PTC 省 token/极简/创造);进阶三件套(能力缝/运行时断言/自修改)。
B01 · 演示25C(B 卷新动画)
六大框架选型决策树✓ 动画升级打开 →
自动播放 4 场景:六大框架定位对比(LangGraph 图编译/LlamaIndex 检索/CrewAI 角色协/AutoGen 对话/OpenAI SDK/Claude Agent SDK)+ 决策树逐步下钻(复杂度→确定性→生态→可视化)+ 行业趋同洞察(ReAct 为核+Graph 为壳)。
B01 · 演示25D(B 卷新动画)
四层协议栈全链路✓ 动画升级打开 →
自动播放 5 场景:四层互补不竞争(L0 LLM-API 脑和模型 / L1 MCP 脑和手 / L2 A2A 脑和脑 / L3 AG-UI 脑和眼)+ 一次请求全链路逐层高亮(AG-UI 进→LLM-API 决策→MCP 调工具→A2A 委派→AG-UI 渲染)+ 每层协议报文示例 + 生产四坑。
B02 · 演示26A(B 卷新动画)
A2A 异步任务委派✓ 动画升级打开 →
自动播放 5 场景:四概念(Agent Card 发现→Task 异步追踪→Message 交互→Artifact 交付);Agent Card 能力发现 vs Nacos 实例发现;Task 状态机(submitted→working⇄input_required→completed/failed/canceled);完整委派时序(轮询/推送);生产四坑(payload 引用/绝不同步/streaming 判定/sessionId 隔离)。
B02 · 演示26B(B 卷新动画)
Token 经济学三大放大器✓ 动画升级打开 →
自动播放 5 场景:路径爆炸(一次任务 10-30 次 LLM 调用)→ 重试放大(30% 重试×25K tokens=$22,500 月账单)→ 上下文膨胀 O(n²)(第 N 轮输入 2N-1 单位,历史占 80%)→ 八大策略按 ROI 排序(Prompt Cache 降 90% 第一)→ 级联路由省钱示范(1000 请求 $500→$55,省 89%;Opus vs DeepSeek 输出差 68 倍)。
B03 · 演示27A(B 卷新动画)
五重预算监控✓ 动画升级打开 →
自动播放:无限循环 12% 会话失控;五维仪表盘实时走动(时间 80%/步数 85%/模型 90%/工具 95%/Token 80% 预警)→ 任一超限强制终止;监控流程(初始化→检查→更新→终止→恢复);场景化预算(客服 30s/8 步 vs 分析 180s/25 步);成本波动 ±300%→±20%。
B03 · 演示27B(B 卷新动画)
降级阶梯 L0-L6✓ 动画升级打开 →
自动播放 + 故障注入按钮:L0 完整→L1 RAG+工具→L2 大模型+工具→L3 小模型+RAG→L4 知识库→L5 人工→L6 稍后重试;核心「哪个组件先挂进哪一级」非逐级递减;触发阈值表(LLM 5s/RAG 3s/工具 90%/内存 90%);恢复逐级回升。
B03 · 演示27C(B 卷新动画)
流量治理五层漏斗✓ 动画升级打开 →
自动播放逐层下钻:FAQ 90%→缓存 4%→小模型 0.6%→RAG 0.4%→大模型 5%;100 万并发→5000 RPS 降 95%;延迟 800ms→250ms;成本 $100k→$2k;黄金法则「大模型是最后一道闸不是第一道门」。每层取舍表。
B03 · 演示27D(B 卷新动画)
企业平台容错自愈✓ 动画升级打开 →
自动播放:P0 架构级八问(冷启动/状态丢失/级联/隔离)+ 六件套自愈(Supervisor Tree/三态熔断/幂等守卫/Watchdog/压缩/5 级降级)+ 层级化优于线性(10 步×85% 端到端 20%,层级化仅降 5.5% vs 线性 23%)+ 故障分布(规格 42%/协调 37%/验证 21%)+ 编排模式表。
B06 · 演示27E(B 卷新动画)
结构化输出四层次✓ 动画升级打开 →
自动播放:JSON Mode 90%(靠自觉)→ Function Calling 95%(协议槽位)→ Structured Output 99.9%(解码约束前缀树)→ Instructor 99.9%+(校验重试);每层机制拆解 + 选型决策金字塔(新模型默认 L3、严格 L4)。
B04 · 演示28A(B 卷新动画)
Agent 调试排障四步 SOP✓ 动画升级打开 →
自动播放 5 场景:复现→缩小范围(90% 根因在检索层)→二分定位(去 RAG/换小模型/关工具/回滚 Prompt 一次动一个变量)→修复+回归+护栏;五类故障速查表(质量/工具/幻觉/性能/漂移);排障工具箱(Langfuse Trace/Prompt Git Log/检索抽查/Checkpoint 回放)。
B05 · 演示09B(B 卷新动画)
C
框架与生态卷(LangChain/LlamaIndex)
LCEL 管道编译✓ 已做打开 →
自动播放:LangChain 核心是 Runnable+LCEL;三动机(调用不统一/编排散落/三模式)→ Runnable 三方法(invoke/batch/stream 模板方法)→ a|b 编译 RunnableSequence(first/middle/last)→ invoke 沿树执行;六种子类(Sequence/Parallel/Branch/Lambda/Passthrough/Binding)。
C01 · 演示13(本轮补)
LangGraph 状态图 + Agent 循环✓ 动画升级打开 →
while 循环直到无 tool_call;条件边;ReAct 编译成 StateGraph(并入演示02C 自动播放)。
C01 · 并入演示02C(动画升级)
LlamaIndex 检索与响应合成✓ 已做打开 →
索引引擎→查询→合成;高级检索模式(混合检索/父子分块,演示10)。
C02 · 并入演示10
D
推理与部署卷(vLLM)
PagedAttention 分页注意力✓ 动画升级打开 →
自动播放 A/B 两请求内存布局:传统连续预分配(相对预留长度的浪费 95%)→ 分页 Block Table 逻辑→物理 → 按需分配动态增长 → 共享前缀 CoW → 有效 token 口径的浪费 4%;第 ⑩ 幕专讲四个不同分母(预留长度/总 KV 池/有效 token/已分配 slot)为何不能直接相减。
D01/01 · 演示14(动画升级)
Continuous Batching 调度✓ 动画升级打开 →
自动播放:Static/Dynamic/Continuous 三级进化 + 实时吞吐对比;GPU Batch 面板 seq 进出 + 利用率 0→100%;10–20 倍的分母是「静态批处理等最长序列时的空转占比」,长度越接近倍数越接近 1,需按自己负载校准;Chunked Prefill 防 TTFT 飙升。
D01/02 · 演示15(动画升级)
KV 缓存与前缀缓存✓ 动画升级打开 →
KV cache 管理(分页/CoW,并入演示14 动画);前缀共享加速(CB 调度,并入演示15)。
D01/04 · 并入演示14/15(动画升级)
调度器与抢占✓ 已做打开 →
Swap vs Recompute 抢占;Prefill/Decode 穿插(演示15)。
D01/03 · 并入演示15
推理栈五层因果链✦ D 卷新动画打开 →
自动播放 8 幕:装得下(14B FP16 28GB → GPTQ-Int4 8.5GB,量化 QAT/PTQ)→ 算得快(Prefill 计算密集 / Decode 内存带宽密集 + Chunked Prefill)→ 塞得满(PagedAttention 碎片 60%→4% + Continuous Batching 60%→96% + Prefix Caching -30~50%)→ 起得来(五层镜像/InitContainer/三种 Probe/StatefulSet)→ 看得见(Metrics/监控/日志/排障)+ 引擎选型(vLLM/TRT-LLM/SGLang 全 OpenAI 兼容)+ 生产四坑。
D 卷总览 · 演示29(推理栈因果链)
LLM-API 协议两轮循环✦ D 卷新动画打开 →
自动播放 7 幕(真实场景「查文件行数→read_file」):为什么两轮(模型无状态,工具结果=上下文注入)→ 请求报文(OpenAI tools+parameters vs Anthropic input_schema+max_tokens 必填)→ 模型响应(tool_calls+arguments 字符串 vs tool_use 块+input 对象)→ 框架执行 → 回填(role:tool+tool_call_id vs user+tool_result.tool_use_id)→ 对照表 → 网关翻译(OpenAI-compatible 事实标准)。
D 卷根01 · 演示30(LLM-API 协议)
Z
模型微调与强化学习卷(Z 附录)
微调方式选型✦ Z 卷新动画打开 →
自动播放 7 幕:五种方式全景(全参数 8×A100/LoRA 0.1-1% 参数/QLoRA 单卡 4090/RLHF 16×A100/DPO 轻量对齐)→ 参数显存对比 → 数据量阶梯(风格 100+/领域 1000+/推理 5000+/全参 1 万+)→ 对齐三兄弟(RLHF/DPO/GRPO)→ 微调 vs RAG 决策(知识新鲜用 RAG、能力固化才微调)→ 实战路径 → 选型收束。
Z 卷微调 · 演示31(方式选型)
LoRA 低秩分解✦ Z 卷新动画打开 →
自动播放 6 幕:全参数显存去哪了(权重/梯度/优化器三块)→ 低秩假设(ΔW 是低秩的)→ LoRA 结构(W 冻结 + A(4096×8)×B(8×4096)=65536=0.4%)→ 训练到推理生命周期(合并 W+A×B 零开销 / vLLM 动态 LoRA)→ QLoRA(4bit 量化+LoRA+双重量化+分页优化器,单卡 4090 跑 7B)→ 关键参数(rank 16/alpha 32/target qkv o)。
Z 卷微调 · 演示32(LoRA 数学)
微调闭环✦ Z 卷新动画打开 →
自动播放 7 幕:五步闭环(数据→训练→评估→部署→监控)→ 数据准备(Alpaca 格式 + 1210→清洗 800 条 + 语义去重)→ 训练(LLaMA-Factory Docker)→ 评估(LLM-as-Judge + 人工抽检 20 条,目标 4+5 分>80%)→ 部署(GGUF 合并 / vLLM 动态 LoRA)→ 三轮迭代 65%→78%→85%(失败案例对症补数据)→ 收束。
Z 卷微调 · 演示33(微调闭环)
X
横切理论(元理论)
横切元认知全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:X 卷元认知 3 篇合并一张思维导图——①全链路总图(10 知识点一张图/同步异步/工具拒绝反馈)②因果链(第一公民→Loop→Context→Memory→Skill→Tool→Multi→Security)③第一公民理论(8 大派系/必然工程结果/怎么选)。
X 横切理论 · 演示X1A(动画升级)
上下文为宗 · 统一坐标✓ 动画升级打开 →
自动播放:LLM 输出=f(上下文);四维矩阵逐行点亮(内容/位置/时机/频率)+ 五技巧族(注入/记忆/工具/压缩/注意力);02-16 每个机制归位四维 + 上下文自演化闭环。
X 横切理论 · 演示X1(动画升级)
通用 Agent 全链路架构✓ 已做打开 →
自动播放动画:一条请求穿行 10 环节,cache/loop/denial 三告警仪表盘实时走动,Ask 真点审批,Deny 带原因+替代,RAG 跨环节。你的主线总图。
X/01 · 演示16(动画升级)
Plan 模式(先思后行 · 预算硬约束)✓ 动画升级打开 →
补 mermaid 缺口②:10 步流转(金融合规报告例)+ 架构图(Planning→校验→Execution→预算引擎→终止)+ 五重预算联动动画(任一超限即停)+ 全局 Deadline 减法传播树(父10min→子6+4min)+ Plan vs 裸 ReAct 与三坑。
通用机制 · 演示24(补 mermaid 缺口)
图编译循环与 Hook 链(洋葱模型)✓ 动画升级打开 →
补 mermaid 缺口①:10 步流转(查天气写文件例)+ 架构图(START→beforeAgent→beforeModel→AGENT_MODEL→afterModel反向→条件路由→TOOL→回环/END)+ 洋葱模型动画(注册正向、执行反向,安全 Hook 最后注册)+ 4 关键节点 + while vs 图编译对比。
通用机制 · 演示23(补 mermaid 缺口)
理论卷 mermaid 图谱总览(覆盖·缺口·合并)✓ 总览打开 →
把 A01~A11 全部 133 个 mermaid 图按主题归并成可切换总览:全局图谱 11 章 + 每章主题图谱(已覆盖演示链接 + 缺口标注)+ 覆盖统计/合并建议。结论:95% 已覆盖,真缺口 2 个(A02 Hook 链、A02 Plan 模式),建议补成机制动画。
通用机制 · 演示00B(理论卷 mermaid 总索引)
Agent Loop 全貌(核心循环 + 扩展点)✓ 动画升级打开 →
一图看全 Agent Loop:板块①核心循环=Loop 内部架构图(上下文组装/Skill路由/记忆/解析/执行路由/收敛判定+LLM旁路)+10 步循环流转(Thought→Action→Observation→回 Thought 直到收敛);板块②扩展点 8 幕=记忆(recall)/Skill注入/工具网关/多Agent/Checkpoint+HITL/安全可观测成本/收束——每个扩展点标注"挂在循环哪个节点"。
通用机制 · 演示22(Agent Loop 全貌)
沙箱运行时治理与安全(漂移/回收/互信/配额/清理)✓ 动画升级打开 →
19A 怎么走 + 20 怎么跑完 + 21 怎么稳住防住:8 幕——会话一致性(Pod 漂移→路由表心跳刷新+失败重路由)、路由表多副本一致性(Redis 权威源+缓存失效广播+TTL)、生命周期(idle 回收+预热池按热度)、安全(mTLS/短期token 互信+Calico 网络隔离+最小权限)、多租户配额(requests/limits+GPU 独占 CPU 超卖)、产物生命周期(下载/对象 TTL+审计);收束金线=一致性·生命周期·安全·治理。
通用机制 · 演示21(沙箱运行时治理)
沙箱执行全景(架构+流转 + 工程化)✓ 动画升级打开 →
一页看完整套沙箱:板块①主链路(10 步:多端→LLM 出 JSON→网关→直连沙箱→签名 URL 交付,LLM 旁路、执行-生命周期分离)+ 板块②可靠性(7 幕:流式 SSE/异步长任务/上传反向链路/中断取消/失败重试/收束);顶部板块 tab 切换,各自独立播放+手动步进;已修复原19 %8 循环 bug(第9/10步走不到)。
通用机制 · 演示19A(17/18/19/20 合并为主文件)
📦 沙箱旧版已归档(17/18/19/20/21旧版)✓ 归档归档说明 →
沙箱系列演进中间版本已移入 _归档_旧版/ 子目录:17(架构)、18(流转归属)、19(架构+流转合并图)、20(执行工程化)、21旧版(执行进阶)——内容并入 19A 与 21 两个主文件,便于追溯不再单独展示。
归档索引 · 沙箱系列合并说明
横切工程横切全貌思维导图✓ 动画升级打开 →
自动播放+手动步进(图文化排版):X 卷工程横切 4 篇合并+补缺 4 点——①Harness(六子系统卡片/Hook 六节点/严重度四层阶梯)②生产化(9 道坎对比/容错两轴/CI-CD/优雅关闭/RAG 延迟进度条)③补缺可观测四件套+成本三件套+评测体系 ④协议栈四层阶梯+L0 报文对比+四坑+流式 HITL ⑤配置 YAML 代码块+四张表+多租户隔离。
X 横切理论 · 演示X3C(动画升级+补缺)
横切生态选型全貌思维导图✓ 动画升级打开 →
自动播放+手动步进:X 卷生态选型 3 篇合并一张思维导图——①共识与冲突(6 共识+7 冲突/14 产品 13 维度)②乐高配方(模块目录/5 配方/5 组合原则)③进化时间线(2023→2026 四次跃迁/未解决问题)。
X 横切理论 · 演示X2B(动画升级)
第一公民理论 + 因果链✓ 已做打开 →
自动播放:一个请求沿 8 环因果链的运行时旅程,每环改下一轮发给 LLM 的 messages(技能注入/工具回填/记忆摘要);⚡动作/💡讲解双色块;多Agent 并行 + 安全拦截。
X/02+03 · 演示X2(动画升级)
AI 工程小册 · 动画作战地图(91 个机制条目 · 75 个可播放演示 · 5 个索引页 · 持续更新)
← 机制演示库 · 章节知识地图 ↗