✅ 收束 · 知识点一句话总结
自进化回答「Agent 怎么学会做更多」——把每次对话产生的使用数据,经「提取→整理→固化→反馈」闭环沉淀为记忆与 Skill,让下一轮从更高起点开始。后端类比:自进化 = CI/CD 的 Agent 版本(使用数据=源码,记忆蒸馏=编译,Skill 生成=构建产物,Nudge=PR review,发布=deploy),区别是编译器和评审人都是 LLM,所以安全扫描是流水线闸门不是可选项。一条主线串起全卷:① 三层进化——L1 记忆进化(成熟,多家实现)/ L2 技能进化(探索中,某实现 Curator + Agent 运行时 make-skill)/ L3 策略进化(空白,无框架放开做,因为直接改写 Agent 行为规则);四大系统分工:Memory 记住、Skill 会做、Nudge 提醒、Curator 整理,且 Nudge 是唯一打扰用户入口、Curator 是唯一后台写文件入口,两条链路刻意分开;从记住到会做需四条件同时满足(≥3 次/都成功/够通用/过扫描),发布要人确认(全自动提取生成、半自动发布);② 某实现 Curator 是 400 行 Prompt 驱动的自主 Agent——改整理策略=改 Prompt=不发版,四 Phase(扫描纯规则零成本 → 分析 → 整理 → 报告),Fork 共享父 Cache 零启动 Token,五个隔离配置防递归(整理者不能被整理);③ 两条发布管道分水岭在审批——Agent 运行时 主动提议+用户即时审批+14 类扫描+4 级信任,分钟级;AgentScope 草稿→扫描→门控三选一(RejectAll/LocalApproval/NotifyAndWait)→使用统计淘汰,天级可控;共同的本质:LLM 生成 Skill 和上线之间必须插一道人可介入的闸门(否则=自授权);④ 失控不是会不会是何时——四类失控(记忆膨胀/失败固化/自改 Prompt 绕过约束/递归不可逆),递归自我改进最危险(v10 无法追溯 v1 丢了哪条约束);防线 = 版本化(每次产物新版本,回滚点是版本号,系统提示词是进化链锚点)+ 三层评估门禁(LLM-as-Judge / 离线回归 / 人工审核高危必审)+ 渐进式生效(灰度 5%→观察→全量)+ 治理分级(完全自治 / 人在回路 / 只读推荐按不可逆程度选)。金句:越不可逆、越接近行为边界,治理越要靠人;AI 可以建议删除但不能执行删除——最终控制权在人手里。
三层进化 记忆/技能/策略
400 行 Prompt 即引擎
四条件 同时满足
失控 何时不是会不会