发给 LLM 的请求体:多轮全量重发 · 四角色 · Cache 前缀
一条真实对话(写 Python 脚本 → 工具回填 → 切到 PPT Skill)展示请求体如何逐轮生长:左边请求体窗口看 messages 数组实时追加 + Cache 命中/未命中分区;右边面板讲每一步的为什么。
1x2x
0/13 · 待播放
请求体认知层次:①无状态 ②请求体骨架 ③四角色 ④多轮全量重发 ⑤工具回填 ⑥Cache 前缀 ⑦Skill 注入/切换
光点 = 当前认知层次 · 不动 System 前缀 = Cache 保命
POST /v1/chat/completions
{ "model": "claude-sonnet-4-5", "messages": [ <空,等待第一轮> ], "tools": [...], "temperature": 0.7 }
就绪点 ▶ 播放,看请求体怎么逐轮生长、Cache 怎么分区。请求体
⚡ 运行时动作:正在发生什么💡 知识讲解:为什么这么设计
知识点一句话总结:发给 LLM 的请求体 = model + messages(system/user/assistant/tool 四角色)+ tools。模型无状态,多轮对话靠客户端每轮全量重发历史实现(所以 token 随轮数 O(n²) 增长,记忆/压缩/缓存由此而生);Prompt Cache 缓存相同前缀(命中约 1/10 价),因此「不变的放前面、动态的放后面、Skill 进附件(user 消息头部 system-reminder)不进 System 动态段」是上下文组织的黄金法则——Skill 切换只换附件、System 前缀不动 → Cache 保持;所有 Agent 的奇淫巧技,本质都是组织 messages 数组。