← 章节知识地图 🎯 动画作战地图 📋 建设计划 / 机制演示库

AI 工程小册 · 机制演示库

把核心机制做成可播放的动画演示——像算法演示一样,一步步看清机制怎么运转。覆盖 7 卷 18 个主题、75 个演示页,持续扩充中。

✓ 已完成 ★ 本轮示范 ○ 规划中
A
理论卷 · 原理
11 个工程答案的机制演示
演示 00
意图识别 + Skill 路由自动切换 ★ 动画升级

自动播放 4 轮对话(编程→表格→PPT→回编程)看 skill 自动切换:每轮重新路由 + totalScore 打分(keyword×3+glob×2+LLM×1)+ 漂移阈值 0.5 + 移除旧注入新 + Cache 生死。

A07 路由机制 · 三级路由 / 漂移切换 / totalScore 打分
演示 01A
认知基础全貌思维导图 ★ 动画升级

自动播放+手动步进:A01 全卷 6 篇合并成一张思维导图——核心「全卷坐标系」(LLM 无状态→5 连锁问题→11 章答案)+ 6 大主干(① 9 认知差 ② 四框架+Essential/Accidental+双运行时 ③ 8 设计模式+微服务平移 ④ 工程九原则 ⑤ 5 硬边界+穿越 ⑥ 因果链+4 金线);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A01 认知基础 · 全貌梳理 · 6 篇合并
演示 01
发给 LLM 的请求体 ★ 动画升级

一条真实对话(写 Python 脚本 → 工具回填 → 切到 PPT Skill)自动播放请求体如何逐轮生长:请求体窗口看 messages 实时追加 + Cache 命中(绿 1/10 价)/未命中(红)分区实时变化;O(n²) token 累积仪表盘;反例演示 Skill 塞 System 中部前缀全断、正确做法附件替换前缀不动 Cache 保持。

A01 认知基础 · 消息结构 / 多轮增长 / Cache 前缀 / Skill 附件
演示 02A
Agent 循环全貌思维导图 ★ 动画升级

自动播放+手动步进:A02 全卷 10 篇合并一张思维导图——核心「LLM 无状态→必须循环→控制权三选→收敛兜底→范式收束」+ 5 大主干(①循环基石 ReAct/messages ②四条路线:图编译/Prompt驱动/Reactive/状态机(HITL 横切) ③收敛保障三层漏斗+死循环四法+O(n²)成本 ④Plan模式 ⑤Loop工程vs Graph工程+ReAct为核Graph为壳);左侧章节逻辑合并总览。

A02 Agent循环 · 全貌梳理 · 10 篇合并
演示 03A
Prompt与上下文全貌思维导图 ★ 动画升级

自动播放+手动步进:A03 全卷 10 篇合并一张思维导图——核心「上下文是第一稀缺资源:缓存第一性→分层→组装→四级架构→压缩全景→行为治理」+ 6 大主干(①缓存第一性:逐字节前缀判据/锚定/断点位置 ②分层策略:按变化频率 4 层 ③组装流水线:9 卡槽/断点落在哪 ④四级架构:缓存→FRC→AutoCompact→持久记忆 ⑤压缩全景:9 策略四防线 + Commit→Compact→Rebuild→Validate 闭环/Codex Diff vs 某实现/结构化总结 ⑥行为治理:Feature Flag+6 对抗技巧);左侧章节逻辑合并总览。

A03 Prompt与上下文 · 全貌梳理 · 10 篇合并
演示 02
ReAct 循环与三层收敛 ★ 动画升级

自动播放:一条「排查 CPU 高负载」请求走完循环——正常 3 轮 ReAct(top→grep→read_file 定位泄漏)→ LLM 自觉终止不可靠 → 死循环被层1指纹(×5警告/×8终止)拦截 → 层2 预算 MAX_STEPS 硬兜底;四视角同屏(LLM 窗/装配线/仪表盘/动作面板)+ ⚡动作/💡讲解双色块 + O(n²) 成本曲线。

A02 Agent 循环 · 循环形态 / 收敛保障 / 五重预算(动画升级)
演示 06B
多Agent编排全貌思维导图 ★ 动画升级

自动播放+手动步进:A06 全卷 9 篇合并一张思维导图——核心「从单 Agent 状态机扩展为多 Agent 协作系统」+ 6 大主干(①三层模型与五模式 ②图引擎 StateGraph ③通信与信任边界 ④A2A 协议与落地 ⑤选型与护栏 ⑥交接与运行时);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A06 多Agent编排 · 全貌梳理 · 9 篇合并
演示 06A
多 Agent 编排:三层模型 + 五种模式 ★ 动画升级

自动播放:CPU 高负载主线(Router→Supervisor 分解→三子 Agent 并行→Merge 根因),模式条 5 卡 + 全局状态区实时合并、编译时 vs 运行时、同步/异步/并行、成本 1.7 倍坑 + 选型决策树收尾。

A06 多Agent编排 · 编排模式主文
演示 02E
发消息立马干活:流式四层机制 ★ 动画升级

自动播放"为什么发消息立马就开始干活":四层叠加(消息即时触发→渲染流式首Token<800ms→执行流式tool_call闭合即执行/增量解析→事件驱动flatMap并发)。含两层流式辨析修正(渲染=给用户看 vs 执行=给框架跑)。

B02 协议 + A02 循环 · 流式响应整合
演示 02D
Agent 循环四路线全景:通用智能体定位 ★ 动画升级

自动播放回答"通用智能体不走 StateGraph":四路线(Prompt驱动/图编译/Reactive/状态机)对比逐行点亮,通用智能体走 Prompt 驱动(无显式图拓扑 + 计数器兜底),两条路线 Checkpoint 对比(显式 vs 藏在消息流),行业收敛 + 选型决策。

A02 Agent 循环 · 循环模式对比 + Prompt 驱动
演示 02C
Checkpoint 持久化 + HITL 中断恢复 ★ 动画升级

自动播放删库审批场景:ReAct 编译成 StateGraph → 条件路由 → Checkpoint 增量存盘(全局状态+KeyStrategy) → interruptBefore 暂停+释放线程 → HITL 审批 → resume 从断点继续。四件事"图引擎免费赠送"。

A02 Agent 循环 · 图编译循环 + HITL
演示 02B
ReAct 循环扩展点 + 用户中途打断 ★ 动画升级

自动播放:循环骨架 while(!done){chat→execute→append};9 个扩展点逐行点亮;"用户中途插话"=消息流改道(新 user 消息插入,LLM 从头读到新指令自己改道)vs HITL 框架暂停(Checkpoint+审批)。终止兜底 MAX_STEPS 在框架手里。

A02 Agent 循环 · ReAct 基础 / 扩展点 / 中断改道
演示 03
上下文管理四级架构 ★ 动画升级

自动播放:代码助手加鉴权对话,Token 一路上涨时四级兜底实时触发——窗口占用条 20%→83% 逼近硬阈值→摘要后回落、messages 列表看 FRC 清掉/摘要替换/权限记录永不压缩实时变化;L1 缓存省成本→L2 FRC 零成本→驱逐磁盘头尾预览→L3 AutoCompact Fork 摘要→L4 持久记忆;反例越权 + 熔断兜底收尾。

A03 Prompt 与上下文 · 四级架构 / FRC / AutoCompact / 四道防线 / 熔断
演示 04A
记忆系统全貌思维导图 ★ 动画升级

自动播放+手动步进:A04 全卷 6 篇合并一张思维导图——核心「LLM 无状态→记忆补状态→三层流转→提存检注闭环」+ 6 大主干(①三层记忆模型 ②长期记忆提取 ③检索与策展 ④身份与人设 ⑤REME 引擎 ⑥架构教训);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A04 记忆系统 · 全貌梳理 · 6 篇合并
演示 04
三层记忆与 Checkpoint ★ 动画升级

自动播放:一条信息"项目用 PostgreSQL 14"沿 工作→会话→持久→下次会话检索注入 四节点装配线流转,信息卡片跟随移动 + 旅程轨迹实时记录每层形态;Checkpoint≠Memory 混用 Bug 动画(重复执行删两次)、7 后端选型、写异步读同步、三坑 + 跨框架哲学收尾。

A04 记忆系统 · 三层记忆 / Checkpoint 后端 / 恢复
演示 05E
工具与MCP全貌思维导图 ★ 动画升级

自动播放+手动步进:A05 全卷 4 篇合并一张思维导图——核心「单进程能调(FC)→ 跨进程能复用(MCP)→ 危险操作被管住(安全)」+ 6 大主干(①Function Calling 闭环 ②工具工程要点 ③MCP 协议 ④工具网关 ⑤执行安全四模型 ⑥选型边界与演进);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A05 工具与MCP · 全貌梳理 · 4 篇合并
演示 05
Function Calling 六步生命周期 ★ 动画升级

自动播放:一条"查天气+存笔记"请求沿六步管道流动,LLM 服务与工具运行时消息往返(tool_calls→并行执行→按 ID 注入→二次请求→final);🤖LLM 决策紫/⚙️框架执行蓝主体色区分+主导者指示条、工具卡实参+返回值、头像化对话;反例段:Schema 校验失败修正 + 同参数死循环指纹拦截。

A05 工具与 MCP · 生命周期 / 并行 / 元工具
演示 05C
Prompt 组装流水线:卡槽、注入时序、Cache 生死 ★ 动画升级

自动播放:一条请求沿 6 节点装配线流动(输入源→PromptBuilder→槽位1-3稳定前缀→槽位4-6会话级→槽位7-9 recency→发LLM);左屏 某实现 9 卡槽逐槽点亮(几乎不变/会话级/很少变三档);请求体实时渲染 System 数组 + cache_control 锚点;命中判据是「从第 0 个 token 起逐字节相同的那一段」;Skill 进 Attachment 是把断点推到尾部、只为增量付费;MCP 连接让 tools 变、断点前移到请求最前面,System 与历史整段重算。

A03 组装流水线 · 卡槽 / 注入时序 / Cache 生死(补知识缺口)
演示 05D
五层 Prompt 注入架构:Prompt as Code ★ 本轮新增

自动播放:Prompt 不是"一大坨"是五层架构,光点沿五层装配线流动(框架层 agent_loop→产品层 working_modes→配置层 ToneStyle→上下文层 Memory→Skill 层 SKILL.md);左屏五层表逐层点亮(负责人×变更频率×内容)+ 记忆三阶段注入 记忆注入器_1/2/3(推理前/选工具前/回复前,避免一次性全塞稀释);好处三条 + 分层判据(变更频率决定负责人)。

B03 生产实战 · 五层 / 分层维护 / 记忆三阶段(补知识缺口)
演示 05B
工具网关:本地/远程透明路由 ★ 动画升级

自动播放:Agent 只向网关发 tool_call,光点沿「注册→发现→路由→执行→统一返回」流动;路由表实时高亮(lookup_order 从本地迁到远程只改一行、Agent 无感);无缝切换三态渲染(本地调用→改路由表迁移→MCP 挂了切 LOCAL fallback);故障五件套 + 四陷阱。

A05 工具与 MCP · 位置透明 / 路由表 / 本地 vs 远程(补知识缺口)
演示 05A
MCP 协议:AI 的 USB-C ★ 动画升级

自动播放:工具清单数组 + JSON-RPC 消息实时渲染(配置→启动 fork 子进程→发现 tools/list→延迟加载 Schema→翻译 mcp__ 前缀→tools/call→结果回传);崩溃自动重启;Cache 破裂传导链 + 三方案;LLM 完全不知道 MCP 存在只看 description。

A05 工具与 MCP · 协议 / 服务发现 / Cache 保护
演示 07
Skill 加载生命周期 ✓ 已完成

编程→办公 PPT 场景:三级路由选 Skill、注入三路径对比(inline/attachment/fork)、漂移检测切换、Cache 生死。

A07 Skill 系统 · 生命周期 / 注入三路径 / Cache
演示 07A
Skill 系统全貌思维导图 ★ 动画升级

自动播放:8 篇合并成一张思维导图,光点沿导图巡游逐板块讲解——5 大主干(格式与触发/执行/分发/自建进化/四层注册中心)+ 2 横向维度(对比选型/多Skill组合),每板块讲清核心机制+设计取舍;左侧章节逻辑合并总览(阅读顺序:入门①→②→⑦ / 规模化③→⑤→⑥ / 进化④→⑦→③);知识点一句话总结整章。

A07 Skill 系统 · 全貌梳理 · 8 篇合并
演示 07B
SKILL.md 格式解剖 + 三路径去向 ★ 动画升级

自动播放:一份 python-coding SKILL.md 文档解剖区逐段高亮(frontmatter name/desc/allowed-tools/paths 给框架看、body 工作流给 LLM 看);三级路由 → 三路径注入实时渲染(inline 进 System 末尾,切换时替换点之后重算 / attachment 进 system-reminder,旧前缀保留、只付本轮尾部增量 / fork 进子 Agent,字节级引用父 System Prompt 的前缀按读价命中+一次子任务调度);生命周期五阶段 + 压缩规避三层保障 + Lost-in-Middle 四手段。

A07 Skill 系统 · 格式 / 注入三路径 / 压缩与专注
演示 07C
注入频率与历史重发 ★ 动画升级

自动播放:回答"编码技能每轮放一次吗"——注入是动作不是每轮内容。4 轮对话请求体实时生长(R1 注入 python-coding → R2/R3 随历史 CARRY 携带 → R4 主题漂移切换移除旧注入新),skill 高亮标签 inj/carry/new 三态 + Cache 状态卡 hit/miss + AutoCompact 三层保障。

A07 Skill 系统 · 注入频率 / 历史重发 / 无状态
演示 07D
多 Skill 编排与干扰治理 ★ 动画升级

自动播放:季度汇报 doc+ppt+email 三场景;Prompt 形态实时渲染三态——策略1 同注 Inline Co-injection(3 body 堆 System 破 Cache)/ 策略2 Fork 子 Agent(主只调度,子各带 1 个 Skill,父前缀按读价命中+每子任务一次调度)/ 策略3 Skill 作 Tool(body 完全不在 Prompt 只有 signature);干扰治理四手段 + 后端类比。

A07 Skill 系统 · 多 Skill 组合 / 同注 / Fork / Tool
演示 07F
Skill 四层注册中心:注册→沙箱→路由→生命周期 ★ 动画升级

自动播放:注册层(frontmatter→注册表,skillId=name+source 命名空间隔离,body 不注册)→ 沙箱层(staging SHA-256 + 14 类威胁扫描 + 懒加载,信任四档)→ 路由层(倒排索引+三级路由)→ 生命周期层(驻留/semver/回收);注册台账逐行高亮 + 路由失败→find-skill→重注册闭环;与微服务唯一本质区别:服务不需沙箱,Skill 需要。

A07/05 四层注册中心 · 注册发现治理 / 信任 / 生命周期(补知识缺口)
演示 08B
安全与沙箱全貌思维导图 ★ 动画升级

自动播放+手动步进:A08 全卷 6 篇合并一张思维导图——核心「约束能编程的 root 用户」+ 6 大主干(①安全五层模型 ②权限与沙箱 ③错误恢复与容错 ④Prompt 注入攻防 ⑤MCP 风险五级 ⑥信任主干);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A08 安全与沙箱 · 全貌梳理 · 6 篇合并
演示 08
安全约束:五层防御纵深 ★ 动画升级

自动播放:一条 curl|bash 恶意工具调用沿五层决策链流动(L1 身份→L2 沙箱→L3 权限→L4 注入扫描 RCE-201 命中 DENY→L5 Skill 审计),工具调用卡 + 审计日志链 correlation_id 贯穿实时看每层裁决;坑 TOCTOU/Allow-and-log 无声黑洞/权限缓存参数绕过;框架覆盖矩阵 + 组合方案 + 检测选型收尾。

A08 安全与沙箱 · 五层模型 / 零信任 / 检测引擎 / 覆盖矩阵
演示 09B
可观测与评测全貌思维导图 ★ 动画升级

自动播放+手动步进:A09 全卷 7 篇合并一张思维导图——核心「验收层:看得见/好不好/会不会被骗」+ 6 大主干(①链路追踪 ②成本可观测 ③LLM-as-Judge ④测试策略 ⑤确定性与可复现 ⑥反指标博弈);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A09 可观测与评测 · 全貌梳理 · 7 篇合并
演示 09
LLM-as-Judge 评测门禁 ★ 动画升级

自动播放:改一行 Prompt 触发评测流水线,四维指标卡实时打分(完成率×0.5 + 工具效率×0.2 + 安全×0.2 + 成本×0.1)→ QS=0.72 黄灯人工 Review;门禁三档色灯 + A/B 统计检验;四类偏差(自我偏好+8%/位置+5%/长度/风格)+ 防刷分 + RAGAS 对齐。

A09 可观测与评测 · Judge / 数据集 / 门禁 / 反指标
演示 09A
链路追踪 + 成本可观测 ★ 本轮新增

自动播放:Agent Trace 不是传统 Trace 换皮,光点沿 6 节点装配线流动(Agent 循环→Span 生成→Trace 存储→成本归因→Cache 监控→告警+路由降本);左屏每轮 ReAct 三个 Span(REASON/ACT/OBSERVE)逐个点亮 + 成本归因三级(Agent/用户/任务);事件序列七段、Cache 命中率阈值(>80% 正常/<70% 黄/<50% 红)、异常检测三规则(>3×/死循环/上下文爆炸)、模型路由降本(Haiku/Sonnet/Opus)。

A09 可观测与评测 · Trace / 三级归因 / Cache 监控(补知识缺口)
演示 10C
RAG与知识全貌思维导图 ★ 动画升级

自动播放+手动步进:A10 全卷 6 篇合并一张思维导图——核心「外部记忆」+ 5 大主干(①RAG 流水线 ②向量数据库 ③Agent 与 RAG 深度融合 ④RAG 六大坑 ⑤分块权衡);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A10 RAG与知识 · 全貌梳理 · 6 篇合并
演示 10
RAG 流水线 11 步 ★ 动画升级

一条 K8s 排查手册从入库到回答自动走完 11 步:文档窗看真实内容每一步怎么变(清洗去 HTML→结构感知切分:wiki 按 ## 标题、表格独立成块、固定 500 字硬切的反例→向量化→入库);在线 HyDE 改写→Top-5 检索→Rerank 过滤假阳性→上下文扩展→注入带引用→LLM 生成;RAGAS 质量门禁 + 分块权衡(两个互斥目标、五种做法、四个坑)收尾。

A10 RAG 与知识 · 流水线 / 结构感知切分 / Rerank / 分块权衡
演示 10B
向量数据库原理 ★ 本轮新增

自动播放:核心不是"存向量"是"存什么结构让检索最准",光点沿装配线流动(文档切 chunk→Embedding API VECTOR(1536)→INSERT 三件套→问题向量化 ANN Top-K→metadata 过滤+混合→上下文扩展注入);左屏 knowledge_chunks 表结构 + ivfflat vs hnsw 两种索引对比 + 查询 SQL 实时渲染(余弦距离 <=> 运算符、to_tsvector BM25);相似度阈值 0.7 判噪声、空结果降级、写慢读快、设计取舍四行。

A10 RAG 与知识 · 三件套 / ANN 索引 / 混合检索(补知识缺口)
演示 11B
自进化全貌思维导图 ★ 动画升级

自动播放+手动步进:A11 全卷 5 篇合并一张思维导图——核心「越用越聪明」+ 4 大主干(①自进化循环 ②自进化型产品的策展器 ③两条发布管道 ④安全与回滚);左侧章节逻辑合并总览 + 知识点一句话总结整章。

A11 自进化 · 全貌梳理 · 5 篇合并
演示 11
自进化循环 ★ 本轮新增

自动播放:自进化不是"自动变聪明"是"提取→整理→固化→反馈"闭环,光点沿七步流水线流动(使用数据→记忆蒸馏→Curator 策展→模式→Skill 草稿→安全扫描+Nudge→发布复用);左屏三层次进化(L1 记忆成熟/L2 技能探索中/L3 策略空白)+ 四系统闭环(Memory 记住/Skill 会做/Nudge 提醒/Curator 整理);Nudge 唯一主动打扰入口、Curator 唯一后台写文件入口、复利效应、从不删除只归档。

A11 自进化 · 三层进化 / 四系统闭环 / 安全回滚
B
落地卷 · 生产与生态
框架 / 协议 / 生产治理 / 生态组件的机制演示(B01~B06)
演示 12
生产级 Agent 循环:11 状态状态机(自动播放动画) ★ 动画升级

一个真实任务(整理复盘发群)在状态机图上自动流转:请求 token 沿 11 状态走、仪表盘 Deadline/Token 实时走动、HITL 审批要真点按钮、死循环被调用指纹当场拦截。LLM 只在 THINK 三选一;五重预算+五个安全阀链;45s→28s。

B03 生产实战 · 状态机 / 受控执行层 / 程序是决策者
演示 25A
Harness 与 Payload 分离 ★ 动画升级

自动播放 4 场景:传统耦合(一次请求=完整上下文)→ 分离模式(Harness 框架数据 / Payload 任务数据分槽)→ 三问题五决策(放哪/何时变/谁可见)→ 收益对比(Cache 命中/并发安全/上下文精简)+ 代码对比。

B01 框架深度 · Harness/Payload / 上下文分槽
演示 25B
AgentScope 生态三位一体 ★ 动画升级

自动播放 5 场景:生态=框架+模型+开发者三环;三位一体=Agent 包(ReAct 内核)+ Skill 包(七环节闭环环形图 dot 逐点点亮)+ Model 包(38 家路由);框架四件套(Loop/Session/Event/Tool+Hook)。

B01 框架深度 · 生态 / Skill 七环节 / Model 路由
演示 25C
DeepSeek Harness 无特权内核 ★ 动画升级

自动播放 6 场景:Model+Harness=Agent;Cordis v4 元框架(DI/生命周期/事件总线);一切皆插件无特权内核;append-only SessionEvent 唯一事实源(事件日志逐条点亮:类型+时间戳+序号+载荷);四种模式(标准/PTC 省 token/极简/创造);进阶三件套(能力缝/运行时断言/自修改)。

B01 框架深度 · 事件驱动内核 / SessionEvent
演示 25D
六大框架选型决策树 ★ 动画升级

自动播放 4 场景:六大框架定位对比(LangGraph/LlamaIndex/CrewAI/AutoGen/OpenAI SDK/Claude Agent SDK)+ 决策树逐步下钻(复杂度→确定性→生态→可视化)+ 行业趋同洞察(ReAct 为核+Graph 为壳)。

B01 框架深度 · 选型决策 / 行业趋同
演示 26A
四层协议栈全链路 ★ 动画升级

自动播放 5 场景:四层互补不竞争(L0 LLM-API 脑和模型 / L1 MCP 脑和手 / L2 A2A 脑和脑 / L3 AG-UI 脑和眼)+ 一次请求全链路逐层高亮 + 每层报文示例 + 生产四坑。

B02 协议规范 · 四层协议栈 / 边界一句话
演示 26B
A2A 异步任务委派 ★ 动画升级

自动播放 5 场景:四概念(Agent Card 发现→Task 异步追踪→Message 交互→Artifact 交付);能力发现 vs 实例发现;Task 状态机(submitted→working⇄input_required→completed/failed/canceled);完整委派时序;生产四坑(payload 引用/绝不同步/streaming 判定/sessionId 隔离)。

B02 协议规范 · A2A / Task 状态机 / 异步委派
演示 27A
Token 经济学三大放大器 ★ 动画升级

自动播放 5 场景:路径爆炸(10-30 次 LLM 调用)→ 重试放大($22,500 月账单教训)→ 上下文膨胀 O(n²) → 八大策略按 ROI 排序(Prompt Cache 降 90% 第一)→ 级联路由省钱示范(1000 请求 $500→$55 省 89%)。

B03 生产实战 · 成本治理 / 三大放大器 / 级联路由
演示 27B
五重预算监控 ★ 动画升级

自动播放:无限循环 12% 失控;五维仪表盘实时走动(时间 80%/步数 85%/模型 90%/工具 95%/Token 80% 预警)→ 任一超限强制终止;监控流程;场景化预算(客服 30s/8 步 vs 分析 180s/25 步);成本波动 ±300%→±20%。

B03 生产实战 · 五维预算 / 预警 / 强制终止
演示 27C
降级阶梯 L0-L6 ★ 动画升级

自动播放 + 故障注入按钮:L0 完整→L1 RAG+工具→L2 大模型+工具→L3 小模型+RAG→L4 知识库→L5 人工→L6 稍后重试;核心「哪个组件先挂进哪一级」非逐级递减;触发阈值表;恢复逐级回升。

B03 生产实战 · 降级阶梯 / 故障注入 / 恢复机制
演示 27D
流量治理五层漏斗 ★ 动画升级

自动播放逐层下钻:FAQ 90%→缓存 4%→小模型 0.6%→RAG 0.4%→大模型 5%;100 万并发→5000 RPS 降 95%;延迟 800ms→250ms;成本 $100k→$2k;黄金法则「大模型是最后一道闸不是第一道门」。

B03 生产实战 · 流量漏斗 / 分层削峰
演示 27E
企业平台容错自愈 ★ 动画升级

自动播放:P0 架构级八问(冷启动/状态丢失/级联/隔离)+ 六件套自愈(Supervisor Tree/三态熔断/幂等守卫/Watchdog/压缩/5 级降级)+ 层级化优于线性(10 步×85% 端到端 20%,层级化仅降 5.5% vs 线性 23%)+ 故障分布(规格 42%/协调 37%/验证 21%)+ 编排模式表。

B06 企业级平台 · 容错自愈 / Supervisor Tree / 熔断
演示 28A
结构化输出四层次 ★ 动画升级

自动播放:JSON Mode 90%(靠自觉)→ Function Calling 95%(协议槽位)→ Structured Output 99.9%(解码约束前缀树)→ Instructor 99.9%+(校验重试);每层机制拆解 + 选型决策金字塔(新模型默认 L3、严格 L4)。

B04 生态组件 · 结构化输出 / 可靠性阶梯
演示 09B
Agent 调试排障四步 SOP ★ 动画升级

自动播放 5 场景:复现→缩小范围(90% 根因在检索层)→二分定位(去 RAG/换小模型/关工具/回滚 Prompt 一次动一个变量)→修复+回归+护栏;五类故障速查表(质量/工具/幻觉/性能/漂移);排障工具箱(Langfuse Trace/Prompt Git Log/检索抽查/Checkpoint 回放)。

B05 知识手册 · 排障 SOP / 二分定位 / 工具箱
00
平台入口 · AI Infra 全貌
平台级机制演示
演示 34
企业级平台能力矩阵分层 ★ 平台新动画

自动播放 8 幕:散点→平台(为什么需要平台而非一堆应用)→ 四层架构(治理/平台/能力/基础设施)→ 七层工程×覆盖度对照(75% 已由 A/B/D/Z 卷讲透,缺口标注)→ 一次请求穿行全平台(Session→Manager→Dispatcher→Executor→LLM Gateway→返回,每环节标注对应专题)→ 三市场运营(版本兼容矩阵/灰度/评审)→ 模型资产 Model Registry + LLM 智能路由/语义缓存 → 三层治理 + 告警应急闭环 → 运行态 Pod Pool(Manager/Executor 池化、Hot→Cold→销毁)+ AI Infra 全貌收束。

平台入口 · 能力矩阵 / 覆盖度对照 / 运行态池化
演示 35
12 场景 → Agent 设计 ★ 平台新动画

自动播放 8 幕:业务倒推设计(非技术倒推)→ 12 场景全景(零售/对公/运营科技 × 合规等级)→ 范式匹配三规律(确定性→工作流/多源→主管/长尾→自主)→ 信贷审批 HITL 分级切点(<0.2 自动通过 >0.7 自动拒绝 中间转人工)→ 智能客服多意图路由+Scope Guard → 反欺诈延迟分层(实时规则<50ms / 准实时 Agent / 事后自主型)→ 12 场景→7 大能力域 → P0-P3 实施优先级与收束。

E 卷业务落地 · 场景驱动设计 / 范式匹配 / HITL 分级
演示 36
12 类交互场景 → 系统能力 ★ 平台新动画

自动播放 8 幕:交互场景是架构源头(业务「做什么」×交互「怎么用」两维度叠加才完整)→ 12 类交互场景穷举(单轮问答→多轮→多Agent→文件→代码→长时→流式→中断→多模态→HITL→定时→并发)→ 场景叠加组合(架构必须处理任意组合)→ 问题空间(P0 冷启动/状态丢失/级联失败/安全隔离是架构级问题)→ 七层架构逐层映射(Gateway/Session Router/Orchestrator/Runtime/存储/LLM 网关/可观测治理)→ 双闭环(内网合规+外网弹性,一套代码两套配置)→ 容错六件套+编排六模式(层级化失效仅降 5.5%)→ 收束。

E2 卷交互场景 · 用户怎么用 / 系统怎么建 / 七层架构
演示 37
系统架构总图穿行 ★ 平台新动画

自动播放 8 幕:一条业务请求从入口到结果穿行七层工程——L1 接入(三协议/鉴权/双维限流)→ L2 会话路由(session/意图识别/附件四层路由/任务分发)→ L3 编排(LangGraph/Checkpoint/HITL/Token 预算,四种范式由图结构落地)→ L4 执行(可插拔沙箱/Pod 生命周期/Watchdog,工具调用不经 K8s 调度)→ L5 状态存储(Redis+Postgres+向量库三层记忆=恢复链路)→ L6 生态市场+LLM Gateway(Skill/MCP/模型市场声明式依赖解耦,双闭环配置驱动)→ L7 治理横切(三层治理 三层/可观测/评测/审计)→ 收束:全貌到细节的打通方式。

E 卷平台入口 · 系统架构穿行 / 全貌到细节 / 知识支撑
演示 38
模型生产闭环穿行 ★ 平台新动画

自动播放 7 幕:微调完的模型从「进资产库」到「收钱」再到「回滚」——注册入库(Model Registry=模型的 Git,版本/血缘/可回滚)→ 评测准入(离线评测+红队红线 0 违例)→ 灰度发布(5%→100% 每档观测+回滚点)→ 上线运营(计量→归因→分摊→预算→优化,FinOps 三问)→ 事故回滚(秒级)→ 退役+治理横切(IAM/Vault/Prompt 资产)。模型生产闭环 = 系统业务架构总图 L6 之后、治理层之前的「分水岭」。

E 卷平台入口 · ModelOps 生产闭环 / 上线运营 / 治理
C
框架与生态卷
框架核心机制演示
演示 13
LCEL 管道编译 + Agent 循环 ★ 本轮新增

自动播放:LangChain 核心不是组件是 Runnable 接口 + LCEL 管道,光点沿动机链流动(调用不统一→编排散落→Runnable 统一协议→LCEL 编译→invoke 沿树执行→六种子类);左屏 Runnable 三方法(invoke/batch/stream,模板方法模式)+ 六种子类(Sequence/Parallel/Branch/Lambda/Passthrough/Binding)逐个点亮;prompt | llm | parser 六件事、first/middle/last 分开的流式优化、RunnableConfig 透传、本质=Runnable 编排引擎。

C01 LangChain & LangGraph · Runnable / LCEL / Agent 循环
D
推理与部署卷
推理引擎机制演示
演示 14
PagedAttention 分页注意力 ★ 动画升级

自动播放 A=34/B=20 token 两请求同时推理:传统连续预分配(相对预留长度的浪费 95%)→ KV cache 按 16 token/block 分页 → Block Table 逻辑→物理映射 → 按需分配动态增长 → 写时复制共享前缀 → 有效 token 口径的浪费 4%;并讲清四个不同分母为何不能直接相减。

D01 vLLM · 分页 / Block Table / 碎片率 / CoW
演示 15
Continuous Batching 调度 ★ 动画升级

自动播放:Static/Dynamic/Continuous 三级进化 + 实时吞吐对比;GPU Batch 面板 seq 进出 + 利用率仪表盘 0→100%;讲清 10–20 倍的分母是「静态批处理等最长序列时的空转占比」,长度越接近倍数越接近 1;Prefill/Decode 混跑 + Chunked Prefill 防 TTFT 飙升 + 与 PagedAttention 协同。

D01 vLLM · 批处理 / 调度 / 抢占
演示 29
推理栈五层因果链 ★ D 卷新动画

自动播放 8 幕:装得下(14B FP16 28GB → GPTQ-Int4 8.5GB,量化 QAT/PTQ)→ 算得快(Prefill 计算密集 / Decode 内存带宽密集 + Chunked Prefill)→ 塞得满(PagedAttention:有效 KV 占比在预留远大于实际时从四到六成抬到九成以上,并发约 2 倍量级 + Continuous Batching 让 batch 恒满 + Prefix Caching TTFT -30~50%)→ 起得来(五层镜像 / InitContainer / 三种 Probe / StatefulSet)→ 看得见(Metrics / 监控 / 日志 / 排障)+ 引擎选型(vLLM / TRT-LLM / SGLang 全 OpenAI 兼容)+ 生产四坑。

D 卷总览 · 推理栈五层因果链 / 量化 / 两阶段 / 部署 / 监控
演示 30
LLM-API 协议两轮循环 ★ D 卷新动画

自动播放 7 幕(真实场景「查文件行数→read_file」):为什么两轮(模型无状态,工具结果=上下文注入)→ 请求报文(OpenAI tools+parameters vs Anthropic input_schema+max_tokens 必填)→ 模型响应(tool_calls+arguments 字符串 vs tool_use 块+input 对象)→ 框架执行 → 回填(role:tool+tool_call_id vs user+tool_result.tool_use_id)→ 对照表 → 网关翻译(OpenAI-compatible 事实标准)。

D 卷根01 · wire protocol / tool_calls vs tool_use / 网关翻译
Z
模型微调与强化学习卷
微调训练机制演示
演示 31
微调方式选型 ★ Z 卷新动画

自动播放 7 幕:五种方式全景(全参数 8×A100 / LoRA 0.1-1% 参数 / QLoRA 单卡 4090 / RLHF 16×A100 / DPO 轻量对齐)→ 参数显存对比 → 数据量阶梯(风格 100+ / 领域 1000+ / 推理 5000+ / 全参 1 万+)→ 对齐三兄弟(RLHF / DPO / GRPO)→ 微调 vs RAG 决策(知识新鲜用 RAG、能力固化才微调)→ 实战路径 → 选型收束。

Z 卷微调 · 五方式对比 / 数据量阶梯 / RAG 决策
演示 32
LoRA 低秩分解 ★ Z 卷新动画

自动播放 6 幕:全参数显存去哪了(权重/梯度/优化器三块)→ 低秩假设(ΔW 是低秩的)→ LoRA 结构(W 冻结 + A(4096×8)×B(8×4096)=65536=0.4%)→ 训练到推理生命周期(合并 W+A×B 零开销 / vLLM 动态 LoRA)→ QLoRA(4bit 量化+LoRA+双重量化+分页优化器,单卡 4090 跑 7B)→ 关键参数(rank 16 / alpha 32 / target qkv o)。

Z 卷微调 · 低秩分解 / ΔW≈A×B / QLoRA / Multi-LoRA
演示 33
微调闭环 ★ Z 卷新动画

自动播放 7 幕:五步闭环(数据→训练→评估→部署→监控)→ 数据准备(Alpaca 格式 + 1210→清洗 800 条 + 语义去重)→ 训练(LLaMA-Factory Docker)→ 评估(LLM-as-Judge + 人工抽检 20 条,目标 4+5 分>80%)→ 部署(GGUF 合并 / vLLM 动态 LoRA)→ 三轮迭代 65%→78%→85%(失败案例对症补数据)→ 收束。

Z 卷微调 · 闭环 / LLM-as-Judge / 迭代 / 过拟合
X
横切理论
元理论演示
演示 X1A
横切元认知全貌思维导图 ★ 动画升级

自动播放+手动步进:X 卷元认知 3 篇合并一张思维导图——①全链路总图(10 知识点一张图/同步异步/工具拒绝反馈)②因果链(第一公民→Loop→Context→Memory→Skill→Tool→Multi→Security)③第一公民理论(8 大派系/必然工程结果/怎么选);左侧章节逻辑合并总览 + 知识点一句话总结整章。

X 横切理论 · 元认知篇 · 3 篇合并(01 全链路 / 02 因果链 / 03 第一公民)
演示 X1
上下文为宗 · Agent 技巧统一坐标 ★ 动画升级

自动播放:本质就是上下文玩法——核心等式 LLM 输出 = f(上下文);四维矩阵逐行点亮(内容维放什么/位置维放哪/时机维何时放/频率维放几次)+ 五技巧族(注入/记忆/工具/压缩/注意力);演示库 02-16 每个机制归位四维,上下文自演化闭环(这就是 agent loop)。

X 横切理论 · 统一坐标系 / 上下文操作全景
演示 X3C
横切工程横切全貌思维导图 ★ 动画升级

自动播放+手动步进:X 卷工程横切 4 篇合并一张思维导图 + 补缺 4 点——①Harness 工程(六大子系统卡片/Hook 六节点/严重度四层阶梯)②生产化工程(9 道坎对比/四层容错两轴/CI-CD/优雅关闭/RAG 延迟预算进度条)③补缺:可观测四件套+成本三件套+评测体系 ④协议栈四层阶梯(L0-L3)+L0 报文对比+四坑+流式 HITL ⑤配置落地(YAML 代码块/四张表/多租户隔离);图文化排版,每幕按内容选卡片/阶梯/进度条/对比形态。

X 横切理论 · 工程横切篇 · 4 篇合并+补缺 · 16 幕(07 Harness / 08 生产化 / 09 协议栈 / 10 配置)
演示 X2B
横切生态选型全貌思维导图 ★ 动画升级

自动播放+手动步进:X 卷生态选型 3 篇合并一张思维导图——①共识与冲突(6 共识+7 冲突/14 产品 13 维度)②乐高配方(模块目录/5 配方/5 组合原则)③进化时间线(2023→2026 四次跃迁/未解决问题);左侧章节逻辑合并总览 + 知识点一句话总结整章。

X 横切理论 · 生态选型篇 · 3 篇合并(04 共识冲突 / 05 乐高配方 / 06 进化时间线)
演示 X2
因果链与第一公民:Agent 工程连锁反应(自动播放动画) ★ 动画升级

回答"因果链到底怎么跟 LLM 交互":一条「整理Q3销售周报发管理群」请求沿因果链 8 环运行(第一公民→Loop→上下文→记忆→Skill→工具→多Agent→安全),每环都在改下一轮发给 LLM 的 messages;四视角同屏(LLM 服务窗/框架动作面板/因果装配线/监控仪表盘);真实多Agent 并行 + 安全注入拦截。

X/02+03 因果链 · 第一公民 / 运行时交互 / 四视角同屏(补知识缺口)
演示 16
通用 Agent 全链路架构 10 环节(自动播放动画) ★ 动画升级

一条请求(整理周报发群)自动穿行 10 环节:光点在管道上流动、cache/loop/denial 三告警仪表盘实时走动、工具网关 Ask 真点审批、Deny 带原因+替代、RAG 跨环节、触发 warning/ALERT 告警。

X 横切理论 · 全链路骨架 / 同步 vs 异步 / RAG 跨环节
演示 21
沙箱运行时治理与安全(漂移/回收/互信/配额/清理) ★ 动画升级

19A 讲"怎么走"、20 讲"怎么跑完",本页讲"怎么稳住 + 怎么防住":8 幕——总览/会话一致性(Pod 漂移→路由表心跳刷新+失败重路由)/路由表多副本一致性(Redis 权威源+本地缓存+失效广播+TTL)/生命周期(idle 回收释放资源+预热池按热度常驻)/安全(网关↔沙箱 mTLS/短期 token+Calico 网络隔离+最小权限)/多租户配额(requests 保证 limits 封顶+GPU 独占 CPU 超卖)/产物生命周期(下载 TTL+对象 TTL+审计)/收束金线(一致性·生命周期·安全·治理)。与 19A 治理横切对应。

通用机制 · 沙箱运行时治理与安全(P1 补全)
演示 19A
沙箱执行全景(架构与流转 + 执行工程化) ★ 动画升级

一个页面看完整套沙箱:顶部板块 tab 切换——板块①「架构与流转」=原演示 19(10 步主链路:多端→LLM 出 JSON→网关→直连沙箱→签名 URL 交付,LLM 旁路/执行-生命周期分离);板块②「执行工程化」=原演示 20(7 幕可靠性:流式 SSE/异步长任务/用户上传反向链路/中断取消/失败重试/收束)。两板块各自独立播放+手动步进+点节点跳板块;已修复原 19 中 %8 硬编码导致第 9/10 步走不到的 bug。

通用机制 · 沙箱执行全景(17/18/19/20 合并为 19A + 21)
📦 沙箱旧版
已归档(17/18/19/20/21旧版,内容并入 19A + 21 治理)

沙箱执行系列演进中间版本已归档至 _归档_旧版/ 子目录,便于追溯:演示_17(云端沙箱执行架构)、演示_18(请求流转与执行归属)、演示_19(架构+流转合并图)、演示_20(执行工程化)、演示_21 旧版(执行进阶)——它们的内容已分别并入 19A(全景)与 21(运行时治理)两个主文件,不再单独展示。

归档索引 · 沙箱系列合并说明
演示 24
Plan 模式(先思后行 · 预算硬约束) ★ 动画升级

补 mermaid 缺口②:把"规划"变成显式 JSON、把"终止"变成程序硬约束。10 步流转(金融合规报告例)+ 架构图(Planning LLM→校验引擎→Execution LLM→预算引擎→终止)+ 三子板块:五重预算联动动画(时间/步数/模型调用/工具调用/Token,任一超限即停)、全局 Deadline 减法传播树(父10min→子6+3min(留1min给父任务)→Tool 3+2min)、Plan vs 裸 ReAct 与三个坑。

通用机制 · Plan 模式(补 mermaid 缺口)
演示 23
图编译循环与 Hook 链(编译期确定 · 洋葱模型) ★ 动画升级

补 mermaid 缺口①:把 ReAct 循环编译成确定性 StateGraph。10 步流转(查天气写文件例)+ 架构图(START→beforeAgent→beforeModel→AGENT_MODEL→afterModel(反向)→条件路由→TOOL→回环/END)+ 三子板块:洋葱模型动画(注册正向 H1→H2→H3,afterModel 执行反向,安全 Hook 必须最后注册)、条件路由与 4 关键节点(entry/loopEntry/loopExit/exit)、while vs 图编译与 AgentScope Reactor 对比。

通用机制 · 图编译循环(补 mermaid 缺口)
演示 22
Agent Loop 全貌(核心循环 + 扩展点) ★ 动画升级

一图看全 Agent Loop:板块①「核心循环」= 下钻 Loop 内部架构图(上下文组装/Skill路由/记忆读写/动作解析/执行路由/收敛判定 + LLM 旁路虚线) + 10 步循环流转(Thought→Action→Observation 转圈,直到收敛);板块②「扩展点」8 幕 = 记忆系统(recall)/Skill路由与注入/工具与网关/多Agent编排/Checkpoint+HITL/安全可观测成本/全貌收束——每个扩展点讲"挂在循环哪个节点"。仿 19A 双板块交互式全景,已修循环取模 bug(10 步全通)。

通用机制 · Agent Loop 全貌(02 系列总览)
演示 00B
理论卷 mermaid 图谱总览(覆盖 · 缺口 · 合并) ★ 总览

把 A_理论卷 A01~A11 全部 133 个 mermaid 图按知识主题归并成一张可切换总览:顶部全局图谱(11 章宏图,点击进章节)+ 每章主题图谱(主题节点 + 已覆盖演示链接 + 缺口标注)+ 右侧覆盖统计/缺口/重复合并建议。结论:95% 主题已被现有演示覆盖;真正缺口 2 个(A02 Hook 链、A02 Plan 模式审批流),建议补成机制动画。

通用机制 · 理论卷 mermaid 总索引(查漏补缺)
AI 工程小册 · 机制演示库(可播放动画版)
← 章节知识地图