跳到正文

AI ENGINEERING · 2026

AI 工程小册 把机制讲透

从大模型内部机制、Agent 共性机制到框架实现、AI Coding、企业平台与推理部署, 沿着「为什么需要 → 核心机制 → 生产动作」的路径,把一件事讲到既懂也会用; 每个机制都可以配上可逐帧播放的演示再确认一遍。

11 个专栏158 篇笔记80 个演示
11专栏机制、框架与工程
158篇深度技术笔记
80个可交互机制演示
0话术只讲机制与边界

THE BOOK

九条知识主线,一套演示图谱

从大模型内部机制、Agent 共性机制、框架实现、AI 研发流程,到企业平台与推理部署,共用同一套写作与评审标准;每个机制都能在演示专栏里逐帧回看。

HANDBOOK NOTES

AI Agent Handbook 初读

AI Agent Handbook 30 章逐章原文笔记,带注释与摘录,作为设计判据的原始语料层。

  • 30 章
  • 原文笔记
  • 设计判据
  • 随查
MODEL FUNDAMENTALS

Transformer 与大模型基础

从分词与嵌入、注意力、Block、位置编码,到预训练、自回归推理、架构家族、后训练对齐、模型蒸馏与持续学习,把大模型内部机制讲成一条可推导的链路。

  • Tokenizer
  • Attention
  • KV Cache
  • RLHF / RLVR
  • 持续学习
AGENT SYSTEMS

AI Agent 工程体系

模型无关的 Agent 工程共性:循环、提示词与上下文、记忆、工具与 MCP、多 Agent、协议栈、安全、评测、RAG、本体与平台化。

  • Agent Loop
  • MCP
  • A2A
  • RAG
  • 本体建模
ENTERPRISE AGENT PLATFORM

企业智能体平台

从一个可交互原型出发,拆解定义态与运行态、Pod 池调度、MCP / Skill / 知识供给、上下文治理、安全评测、生产降级与分阶段落地。

  • 定义态
  • 运行态
  • Pod Pool
  • MCP
  • 发布门禁
HANDBOOK CLOSE READING

AI Agent Handbook 精读

沿着开源手册的架构、构建、运行、治理、调优与实践六篇,逐章拆出命题、机制、参数与边界,并把章节之间的因果链接起来。

  • Harness
  • Task/Session
  • Runtime
  • 可观测
  • Agentic OS
LLM INFERENCE

推理与部署

从显存与 KV 缓存到连续批处理、前缀缓存、分布式并行、量化、网关路由,再到 AI 编译器与成本定价,把推理服务从能跑到可经营讲清楚。

  • vLLM
  • PagedAttention
  • KV Cache
  • AI 编译器
  • 成本
AGENT FRAMEWORKS

LangChain 与 LangGraph

从模型、消息与工具,到 Agent 循环、持久化、RAG、LlamaIndex、框架对比与生产化,沿着一条请求链路理解 Agent 框架。

  • LangChain
  • LangGraph
  • LlamaIndex
  • Agent Loop
  • RAG
AI-ASSISTED ENGINEERING

AI Coding

三代范式、规格驱动与测试驱动、重构调试、企业工作流,以及工具链和全闭环平台的设计取舍。

  • SDD
  • TDD
  • MCP
  • 代码审查
  • 全闭环
OPEN-SOURCE AGENT PLATFORM

开源生态企业智能体平台

以 AI Agent Handbook 为判据、百炼为对标,用阿里开源全家桶拼装企业级智能体平台:最小成本缝合引擎,最大定制 HiMarket 产品壳。

  • Higress
  • HiMarket
  • AgentScope
  • LiteTopic
  • Nacos
AGENT ECOSYSTEM MARKET

基于 HiMarket 的 Agent 生态市场

以 HiMarket 为底座,把模型、MCP、Agent、Skill、Worker 五类能力资产做成发布、订阅、凭证、调用、计量、观测的完整闭环。

  • HiMarket
  • Higress
  • Nacos
  • 市场运营
  • 计量
DIGITAL TWIN PLATFORM

企业员工数字分身

为每个员工提供独立的 AI 助手实例:统一网关与身份路由、渠道聚合、Skill / MCP 接入、审批闭环与实例生命周期治理。

  • 数字分身
  • 实例生命周期
  • HITL
  • 多租户
  • 网关

HOW TO READ

每篇都按同一套结构展开

不是题库,也不是速记。先讲清问题,再落到能执行的动作。

  1. 01

    一句话

    本质、换来了什么、代价是什么。

  2. 02

    为什么需要

    没有它时,工程上疼在哪。

  3. 03

    核心机制

    从问题推导方案,讲清关键取舍。

  4. 04

    最小上手

    能复制、能跑通、能验证。

  5. 05

    生产动作

    参数、监控与排障路径。

  6. 06

    边界

    什么场景不该用。

  7. 07

    讲清楚

    一段能直接复述的口述版。

START HERE

先读共性,再选落地

做 Agent 应用,先建立工程体系,再看 LangChain 与 LangGraph;做研发提效,直接进 AI Coding。

把 AI 工程讲到既懂也会用