ai-engineering-from-scratch:基于多语言的人工智能工程从入门到实践项目

Learn it. Build it. Ship it for others.

分支17Tags2
文件最后提交记录最后更新时间
12 小时前
12 小时前
12 小时前
3 个月前
1 个月前
7 天前
12 小时前
7 天前
12 小时前
12 小时前
5 个月前
12 小时前
5 个月前
12 小时前
12 小时前
12 小时前
5 个月前
3 个月前
12 小时前
21 天前
4 个月前
5 个月前
3 个月前
5 个月前
5 个月前
5 个月前
12 小时前
12 小时前
12 小时前
12 小时前
5 个月前
12 小时前

AI Engineering from Scratch — 参考手册横幅

使用你的语言阅读: Español · Français · Português · Deutsch · Italiano · 简体中文 · 日本語 · 한국어 · हिन्दी · العربية · Русский · Türkçe
已翻译的落地页已提交至仓库。英文为权威版本;课程页面在 translations 分支上由机器翻译。参见 docs/i18n.md

MIT 许可证 523 节课程 20 个阶段 GitHub 星标数 网站

Agent Memory - #1 持久记忆 ⭐ GitHub stars 的创作者打造,可自然适配任意智能体或聊天助手。

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

84% 的学生已经在使用 AI 工具。只有 18% 觉得自己已经准备好 专业地使用它们。 这套课程体系将弥合这一差距。

523 节课。20 个阶段。约 342 小时。Python、TypeScript、Rust、Julia。每一节课都会交付一个可复用成果: 提示词、技能、智能体或 MCP 服务器。免费、开源,遵循 MIT 许可证。

你不仅学习 AI。你亲手把它构建出来。端到端,从头到尾。

114,584 读者  ·  近 30 天 181,995 次浏览  ·  截至 2026-08-29

从这里开始:选择你想构建的内容

开始之前,你不必通读 523 节课。选择一个目标。每个链接都会打开 GitHub 或网站上的同一份课程,两个版本使用相同的课程代码。

你的目标 在 GitHub 上学习 在网站上学习
我是新手,想打下完整基础 阶段 0:环境与工具 开发环境
我熟悉 Python,想补齐数学和机器学习基础 阶段 1:数学基础 线性代数直觉
我想构建生产级 LLM 应用 阶段 11:LLM 工程 提示工程
我想构建智能体 阶段 14:智能体工程 智能体循环
我想在真实代码仓库中使用编程智能体 智能体辅助工程路径 智能体辅助工程
我想在实现前确定正确的构建方向 产品判断与交付路径 产品判断与交付
我想基于 Model Context Protocol (MCP) 进行构建 Model Context Protocol (MCP) 路线 Model Context Protocol (MCP) 路径
我想编写并发布智能体技能 聚焦智能体技能路线 智能体技能路径
我想为 Claude 认证做准备 认证入门 认证学院

不确定自己适合从哪里开始?可以使用 start-learning 水平定位助手网站前置要求指南

AI 工程学习路径 中,比较四大核心领域和六条职业路线。

以同样的方式使用每一课

  1. 阅读 docs/en.md,并用自己的话解释核心理念。
  2. 手动输入并构建 重要代码,而不是把代码块当作装饰。
  3. 运行 课程命令,从仓库根目录开始,该目录包含 README.mdphases/
  4. 保留证据:命令、工作目录、退出码、有意义的输出,以及你修改或生成的产物。
  5. 继续 仅在你能解释输出,并做出一个小改动而不依赖猜测时进行。

课程页面中的命令都是从仓库根目录计算的路径,除非课程明确要求更改目录。如果课程提供多种语言,请运行你正在学习的那种语言的实现。

克隆它并生成第一份证据

git clone https://github.com/rohitg00/ai-engineering-from-scratch.git
cd ai-engineering-from-scratch
python3 phases/00-setup-and-tooling/01-dev-environment/code/verify.py --route beginner
python3 phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py

预检会将当前需要的前置条件与稍后需要的工具区分开来。每个必需项失败时,都会给出检测到的原因和一条修正命令。第二条命令是一节零依赖的课程,结尾会演示矩阵与向量的乘法,这正是神经网络层内部的运算。把这段终端输出保存下来,作为你的第一份证据。

用 30 秒添加 AI 导师

如果 Node.js、npx 和一款支持 Skills 的编程代理已经安装好,你的编程代理只需两条命令,就能成为你的导师。安装或查看该导师不需要克隆仓库。可运行的聚焦路径实验需要 python3。Agent Skills 宿主实验还需要选定宿主,以及可写的用户或项目技能作用域。

请先检查本地要求:

node --version
npx --version
python3 --version

然后安装课程技能,并在安装程序询问时选择你要使用的主机和作用域:

npx skills add rohitg00/ai-engineering-from-scratch

调用语法属于宿主环境,而不属于可移植的 SKILL.md 格式:

宿主环境 开始课程 开始 Model Context Protocol (MCP) 开始 Agent Skills 运行阶段测验
Codex start-learning,或从 /skills 中选择 learn-mcp,或从 /skills 中选择 learn-agent-skills,或从 /skills 中选择 check-understanding 13,或从 /skills 中选择
Claude Code /start-learning /learn-mcp /learn-agent-skills /check-understanding 13
其他兼容宿主环境 使用 start-learning 开始课程。 使用 learn-mcp 开始 Model Context Protocol (MCP) 路径。 使用 learn-agent-skills 开始 Agent Skills Engineering 路径。 使用 check-understanding 就第 13 阶段对我进行测验。

十题分级测验会将你已掌握的内容对应到起始阶段,并将个性化学习计划保存到 LEARNING.md。之后,learn 技能每次会话教授一节课:概念、数学、代码、测验。它会直接从本仓库流式推送课程,course-guide 技能则会跳转到你卡住的内容对应的具体课程。在 Codex 中,使用 learncourse-guide 调用这些技能;在 Claude Code 中,使用 /learn/course-guide;在其他兼容宿主环境中,按名称请求使用该技能。

只想学习 Model Context Protocol (MCP)?使用你的宿主环境对应的 MCP 调用方式。它会创建 MCP-LEARNING.md,并遵循一条 17 节课的路径,依次覆盖无状态请求、传输、双向交互、安全、可靠性、注册表治理和一致性证据。具体顺序和检查点位于 Model Context Protocol (MCP) 清单 中。

只想学习 Agent Skills?使用你的宿主环境对应的 Agent Skills 调用方式。它会创建 AGENT-SKILLS-LEARNING.md,并遵循一条连贯的 5 节课路径:契约、发现、调用、沙箱边界,然后是发布评估和真实宿主可移植性。可先在网页上从 Agent Skills 路径 开始。

安装器会列出它能够配置的宿主环境,并询问安装位置。如果你尚未具备 Node.js、npxpython3、受支持的宿主环境或可写作用域,请使用网站,或手动阅读 docs/en.md。该路径会讲解概念,但在预检可用之前,真实宿主环境中的发现、调用、脚本和卸载证据仍会保持待处理状态。请在 aiengineeringfromscratch.com 阅读课程。

这套课程如何运作

大多数 AI 资料都是碎片化教学。这里一篇论文,那里一篇微调文章,别处又有一个炫目的智能体演示。这些碎片很少能拼到一起。你上线了一个聊天机器人,却解释不了它的损失曲线。你把一个函数接入智能体,却说不出注意力在调用它的那个模型内部究竟起了什么作用。

这套课程就是主干。20 个阶段,523 课,四种语言:Python、TypeScript、Rust、Julia。一端是线性代数,另一端是自主集群。每个算法都先从原始数学开始构建。反向传播。分词器。注意力。智能体循环。等 PyTorch 登场时,你已经知道它底层在做什么。

每一课都遵循同一个闭环:读懂问题,推导数学,写出代码,运行测试,保留产物。没有五分钟速成视频,没有复制粘贴式部署,也没有全程手把手。免费、开源,并且可以直接运行在你自己的笔记本上。

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

课程架构

二十个阶段层层叠加。数学是地基。智能体与生产是屋顶。 若你已掌握较低层次,可以跳着学,但别跳过后又疑惑顶层为何会出问题。

%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'12px'}}}%%
flowchart TB
  P0["Phase 0 — Setup & Tooling"] --> P1["Phase 1 — Math Foundations"]
  P1 --> P2["Phase 2 — ML Fundamentals"]
  P2 --> P3["Phase 3 — Deep Learning Core"]
  P3 --> P4["Phase 4 — Vision"]
  P3 --> P5["Phase 5 — NLP"]
  P3 --> P6["Phase 6 — Speech & Audio"]
  P3 --> P9["Phase 9 — RL"]
  P5 --> P7["Phase 7 — Transformers"]
  P7 --> P8["Phase 8 — GenAI"]
  P7 --> P10["Phase 10 — LLMs from Scratch"]
  P10 --> P11["Phase 11 — LLM Engineering"]
  P10 --> P12["Phase 12 — Multimodal"]
  P11 --> P13["Phase 13 — Tools & Protocols"]
  P13 --> P14["Phase 14 — Agent Engineering"]
  P14 --> P15["Phase 15 — Autonomous Systems"]
  P15 --> P16["Phase 16 — Multi-Agent & Swarms"]
  P14 --> P17["Phase 17 — Infrastructure & Production"]
  P15 --> P18["Phase 18 — Ethics & Alignment"]
  P16 --> P19["Phase 19 — Capstone Projects"]
  P17 --> P19
  P18 --> P19
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

一节课的结构

每节课都有自己独立的文件夹,整个课程的结构保持一致:

phases/<NN>-<phase-name>/<NN>-<lesson-name>/
├── code/      runnable implementations (Python, TypeScript, Rust, Julia)
├── docs/
│   └── en.md  lesson narrative
└── outputs/   prompts, skills, agents, or MCP servers this lesson produces

每节课都遵循六个环节。Build It / Use It 的拆分是核心主线——你首先从零开始实现算法, 然后用生产库运行同样的算法。 你会因为亲手写出了简化版本,而理解框架究竟在做什么。

%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'13px'}}}%%
flowchart LR
  M["MOTTO<br/><sub>one-line core idea</sub>"] --> Pr["PROBLEM<br/><sub>concrete pain</sub>"]
  Pr --> C["CONCEPT<br/><sub>diagrams &amp; intuition</sub>"]
  C --> B["BUILD IT<br/><sub>raw math, no frameworks</sub>"]
  B --> U["USE IT<br/><sub>same thing in PyTorch / sklearn</sub>"]
  U --> S["SHIP IT<br/><sub>prompt · skill · agent · MCP</sub>"]

入门指南

三种进入方式,任选其一。

选项 A — 在终端中学习 (推荐) 在上方完成 Node.js、 npx、主机和 scope 的预检后,将学习技能安装到兼容的智能体中, 并让课程自动推进:

npx skills add rohitg00/ai-engineering-from-scratch

请使用上方针对特定主机的调用表。已安装的技能提供 start-learninglearncourse-guide,以及更聚焦的 learn-mcplearn-agent-skills 路由。课程正文可以 直接从本仓库流式获取,无需克隆。若要运行从仓库复制的代码命令, 以及可执行的 MCP 或 Agent Skills 实验,则需要本地克隆。 进度保存在你项目中的 LEARNING.mdMCP-LEARNING.mdAGENT-SKILLS-LEARNING.md 中,因此每次会话都可以恢复。

选项 B — 阅读。aiengineeringfromscratch.com 打开任意已完成课程,或在 Contents 下展开某个阶段。无需配置,无需克隆。

选项 C — 克隆并运行。

git clone https://github.com/rohitg00/ai-engineering-from-scratch.git
cd ai-engineering-from-scratch
python3 phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py

克隆项目时,Claude Code 还会自动加载学习技能,并让每一课的代码交给 learn 导师真正执行,而不是只跟读。

前提条件

  • 你会写代码(任意语言都可以;Python 更有帮助)。
  • 你想理解 AI 究竟是如何工作的,而不仅仅是调用 API。

为 Claude 认证做准备

Claude Certification Academy 是一个免费、开源的备考项目,覆盖全部四个官方 Claude 认证方向: Associate Foundations、Developer Foundations、Architect Foundations 和 Architect Professional。 每条路径都包含对照考试大纲的课程、可运行的实验、诊断测试、综合实战作品,以及一套完整原创模拟考。

使用 AI 原生 GitHub 入门指南 搭配 Claude Code、Codex、ChatGPT、Cursor 或其他 agent。在 Codex 中运行 claude-certification,在 Claude Code 中运行 /claude-certification,或让其他宿主使用 claude-certification。它会选择一个认证方向, 在 CLAUDE-CERTIFICATION.md 中创建一条持久化学习路线,逐步授课,运行真实实验,并基于成果物给出反馈。相同课程仍可在 认证网站 上使用。

该学院是独立学习材料,基于公开的考试大纲。它与 Anthropic 无关联,不会复现真实考题,也不能保证通过。

学习技能

技能 功能
start-learning 一次性入门:明确你的学习动机,完成水平定位测试,并将个性化计划保存到 LEARNING.md
learn 导师循环。先进行热身回忆,然后交互式讲解下一课,再完成对应测验;记录学习进度和复习队列。
course-guide 主题路由。“我在哪里学习 attention?”或“我的 loss 是 NaN” → 给出精确课程和链接。
learn-mcp 专注 Model Context Protocol(MCP)的导师。会创建 MCP-LEARNING.md,遵循 17 课清单,并记录通信、安全、可靠性和一致性证据。
learn-agent-skills 专注 Agent Skills 的导师。会创建 AGENT-SKILLS-LEARNING.md,教授第 22、24、25、26 和 27 课,并记录真实宿主证据。
claude-certification 认证导师。会选择 CCAO-F、CCDV-F、CCAR-F 或 CCAR-P;讲授每一课;运行实验;评审成果物;执行诊断和模拟考;保存学习进度。
find-your-level 十道水平定位题。根据你的知识基础映射到起始阶段,并生成带时长估算的个性化路径。
check-understanding <phase> 按阶段进行测验,共八题,包含反馈和需要复习的具体课程。请使用上方调用表中的 Codex、Claude Code 或自然语言形式。
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

像阅读一本书一样学习核心课程

phases/ 下的 20 个阶段核心课程,被整理为一套六卷本图书。EPUB 和 PDF 版本由 CI 从同一套核心课程源文件构建,并附在每一个 GitHub release;下方链接始终指向最新发布版本。卷号用于标识系列,而非版本:每一册都带有日期版次标记,旧版次仍可在对应发布版本中下载。

认证课程有意不转换为图书。其中的 AI 导师状态、可运行实验、交互图表、诊断与限时模拟,仍会作为 GitHub 和网站上的核心内容保留。

书名 阶段 下载
1 基础 · 数学、工具链与经典机器学习 00-02 EPUB · PDF
2 深度学习 · 网络、视觉与语音 03, 04, 06 EPUB · PDF
3 语言 · NLP 基础与 Transformer 05, 07 EPUB · PDF
4 大语言模型 · 生成、强化学习、预训练与工程实践 08-11 EPUB · PDF
5 智能体 · 多模态、协议、自主性与群体 12-16 EPUB · PDF
6 生产环境 · 基础设施、安全与综合项目 17-19 EPUB · PDF

图书是快照;本仓库是活的版本。每章结尾都提供回链到对应课程的动画图表、测验和可运行代码。可在本地运行 python3 scripts/build_book.py 构建图书(需要 pandoc);流水线详情见 book/README.md

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

每节课都交付成果

其他课程往往以*“恭喜,你学会了 X。”*收尾。这里的每一课都以一个 可复用工具收尾,你可以直接安装,或粘贴进日常工作流。

FIG_001.A 提示词
FIG_001 · A
提示词
FIG_001.B 技能
FIG_001 · B
技能
FIG_001.C 智能体
FIG_001 · C
智能体
FIG_001.D MCP 服务器
FIG_001 · D
MCP 服务器
粘贴到任意 AI 助手中,即可在特定细分任务上获得专家级帮助。 放入 Claude、Cursor、Codex、OpenClaw、Hermes,或任何能读取 SKILL.md 的智能体。 部署为自主智能体——你在第 14 阶段亲手编写了这个循环。 接入任意 MCP 兼容客户端。第 13 阶段完成端到端构建。

使用 python3 scripts/install_skills.py <target> 即可批量安装。这是真正能用的工具,不是作业。 学完课程后,你将拥有一份包含 523 个交付物的作品集——因为你亲手构建,所以真正理解它们。

FIG_002 · 一个完整示例

第 14 阶段,第 1 课:智能体循环。约 120 行纯 Python,无任何依赖。

code/agent_loop.py   动手构建

def run(query, tools):
    history = [user(query)]
    for step in range(MAX_STEPS):
        msg = llm(history)
        if msg.tool_calls:
            for call in msg.tool_calls:
                result = tools[call.name](**call.args)
                history.append(tool_result(call.id, result))
            continue
        return msg.content
    raise StepLimitExceeded

outputs/skill-agent-loop.md   交付它

---
name: agent-loop
description: ReAct-style loop for any tool list
phase: 14
lesson: 01
---

Implement a minimal agent loop that...

outputs/prompt-debug-agent.md

You are an agent debugger. Given the trace
of an agent run, identify the step where
the agent went wrong and explain why...
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

目录

二十个阶段。点击任意阶段即可展开课程列表。

阶段 0:环境搭建与工具 12 节课

为后续所有内容准备好开发环境。

# 课程 类型 语言
01 开发环境 构建 Python
02 Git 与协作 学习
03 GPU 配置与云端 构建 Python
04 API 与密钥 构建 Python
05 Jupyter 笔记本 构建 Python
06 Python 环境 构建 Shell
07 面向 AI 的 Docker 构建 Docker
08 编辑器配置 构建
09 数据管理 构建 Python
10 终端与 Shell 学习
11 面向 AI 的 Linux 学习
12 调试与性能分析 构建 Python
阶段 1 — 数学基础  22 节课  通过代码理解每个 AI 算法背后的直觉。
# 课程 类型 语言
01 线性代数直觉 学习 Python, Julia
02 向量、矩阵与运算 构建 Python, Julia
03 矩阵变换与特征值 构建 Python, Julia
04 面向 ML 的微积分:导数与梯度 学习 Python
05 链式法则与自动微分 构建 Python
06 概率与分布 学习 Python
07 贝叶斯定理与统计思维 构建 Python
08 优化:梯度下降家族 构建 Python
09 信息论:熵与 KL 散度 学习 Python
10 降维:PCA、t-SNE、UMAP 构建 Python
11 奇异值分解 构建 Python, Julia
12 张量运算 构建 Python
13 数值稳定性 构建 Python
14 范数与距离 构建 Python
15 面向 ML 的统计学 构建 Python
16 采样方法 构建 Python
17 线性方程组 构建 Python
18 凸优化 构建 Python
19 面向 AI 的复数 学习 Python
20 傅里叶变换 构建 Python
21 面向 ML 的图论 构建 Python
22 随机过程 学习 Python
阶段 2 — ML 基础  18 节课  经典 ML——仍是大多数生产级 AI 的支柱。
# 课程 类型 语言
01 什么是机器学习 学习 Python
02 从零实现线性回归 构建 Python
03 逻辑回归与分类 构建 Python
04 决策树与随机森林 构建 Python
05 支持向量机 构建 Python
06 KNN 与距离度量 构建 Python
07 无监督学习:K-Means、DBSCAN 构建 Python
08 特征工程与选择 构建 Python
09 模型评估:指标与交叉验证 构建 Python
10 偏差、方差与学习曲线 学习 Python
11 集成方法:Boosting、Bagging、Stacking 构建 Python
12 超参数调优 构建 Python
13 ML 流水线与实验跟踪 构建 Python
14 朴素贝叶斯 构建 Python
15 时间序列基础 构建 Python
16 异常检测 构建 Python
17 处理不平衡数据 构建 Python
18 特征选择 构建 Python
阶段 3 — 深度学习核心  13 节课  从第一性原理构建神经网络。在亲手搭建一个之前,不引入任何框架。
# 课程 类型 语言
01 感知机:一切起点 构建 Python
02 多层网络与前向传播 构建 Python
03 从零实现反向传播 构建 Python
04 激活函数:ReLU、Sigmoid、GELU 及原因 构建 Python
05 损失函数:MSE、交叉熵与对比损失 构建 Python
06 优化器:SGD、Momentum、Adam、AdamW 构建 Python
07 正则化:Dropout、权重衰减与 BatchNorm 构建 Python
08 权重初始化与训练稳定性 构建 Python
09 学习率调度与预热 构建 Python
10 构建你自己的微型框架 构建 Python
11 PyTorch 入门 构建 Python
12 JAX 入门 构建 Python
13 神经网络调试 构建 Python
阶段 4 — 计算机视觉  28 节课  从像素到理解——图像、视频、3D、VLM 与世界模型。
# 课程 类型 语言
01 图像基础:像素、通道与色彩空间 学习 Python
02 从零实现卷积 构建 Python
03 CNN:从 LeNet 到 ResNet 构建 Python
04 图像分类 构建 Python
05 迁移学习与微调 构建 Python
06 目标检测——从零实现 YOLO 构建 Python
07 语义分割——U-Net 构建 Python
08 实例分割——Mask R-CNN 构建 Python
09 图像生成——GAN 构建 Python
10 图像生成——扩散模型 构建 Python
11 Stable Diffusion——架构与微调 构建 Python
12 视频理解——时序建模 构建 Python
13 3D 视觉:点云与 NeRF 构建 Python
14 视觉 Transformer(ViT) 构建 Python
15 实时视觉:边缘部署 构建 Python
16 构建完整视觉流水线 构建 Python
17 自监督视觉——SimCLR、DINO、MAE 构建 Python
18 开放词汇视觉——CLIP 构建 Python
19 OCR 与文档理解 构建 Python
20 图像检索与度量学习 构建 Python
21 关键点检测与姿态估计 构建 Python
22 从零实现 3D 高斯泼溅 构建 Python
23 扩散 Transformer 与 Rectified Flow 构建 Python
24 SAM 3 与开放词汇分割 构建 Python
25 视觉语言模型(ViT-MLP-LLM) 构建 Python
26 单目深度与几何估计 构建 Python
27 多目标跟踪与视频记忆 构建 Python
28 世界模型与视频扩散 构建 Python
阶段 5 — NLP:从基础到进阶  29 节课  语言是通往智能的接口。
# 课程 类型 语言
01 文本处理:分词、词干提取与词形还原 构建 Python
02 词袋模型、TF-IDF 与文本表示 构建 Python
03 词嵌入:从零实现 Word2Vec 构建 Python
04 GloVe、FastText 与子词嵌入 构建 Python
05 情感分析 构建 Python
06 命名实体识别(NER) 构建 Python
07 词性标注与句法分析 构建 Python
08 文本分类——面向文本的 CNN 与 RNN 构建 Python
09 序列到序列模型 构建 Python
10 注意力机制——关键突破 构建 Python
11 机器翻译 构建 Python
12 文本摘要 构建 Python
13 问答系统 构建 Python
14 信息检索与搜索 构建 Python
15 主题建模:LDA 与 BERTopic 构建 Python
16 文本生成 构建 Python
17 聊天机器人:从基于规则到神经网络 构建 Python
18 多语言 NLP 构建 Python
19 子词分词:BPE、WordPiece、Unigram、SentencePiece 学习 Python
20 结构化输出与受限解码 构建 Python
21 NLI 与文本蕴含 学习 Python
22 嵌入模型深度解析 学习 Python
23 面向 RAG 的分块策略 构建 Python
24 共指消解 学习 Python
25 实体链接与消歧 构建 Python
26 关系抽取与知识图谱构建 构建 Python
27 LLM 评估:RAGAS、DeepEval、G-Eval 构建 Python
28 长上下文评估:NIAH、RULER、LongBench、MRCR 学习 Python
29 对话状态跟踪 构建 Python
阶段 6 — 语音与音频  17 节课  聆听、理解、表达。
# 课程 类型 语言
01 音频基础:波形、采样与 FFT 学习 Python
02 频谱图、梅尔刻度与音频特征 构建 Python
03 音频分类 构建 Python
04 语音识别(ASR) 构建 Python
05 Whisper:架构与微调 构建 Python
06 说话人识别与验证 构建 Python
07 文本转语音(TTS) 构建 Python
08 语音克隆与语音转换 构建 Python
09 音乐生成 构建 Python
10 音频语言模型 构建 Python
11 实时音频处理 构建 Python
12 构建语音助手流水线 构建 Python
13 神经音频编解码器——EnCodec、SNAC、Mimi、DAC 学习 Python
14 语音活动检测与对话轮替 构建 Python
15 流式语音到语音——Moshi、Hibiki 学习 Python
16 语音反欺骗与音频水印 构建 Python
17 音频评估——WER、MOS、MMAU 与排行榜 学习 Python
阶段 7 — Transformer 深入解析  16 节课  改变一切的架构。
# 课程 类型 语言
01 为什么是 Transformer:RNN 的问题 学习 Python
02 从零实现自注意力 构建 Python
03 多头注意力 构建 Python
04 位置编码:正弦、RoPE、ALiBi 构建 Python
05 完整 Transformer:编码器 + 解码器 构建 Python
06 BERT——掩码语言建模 构建 Python
07 GPT——因果语言建模 构建 Python
08 T5、BART——编码器-解码器模型 学习 Python
09 视觉 Transformer(ViT) 构建 Python
10 音频 Transformer——Whisper 架构 学习 Python
11 混合专家(MoE) 构建 Python
12 KV Cache、Flash Attention 与推理优化 构建 Python
13 缩放定律 学习 Python
14 从零构建 Transformer 构建 Python
15 注意力变体——滑动窗口、稀疏与微分 构建 Python
16 投机解码——草稿、验证、重复 构建 Python
阶段 8 — 生成式 AI  15 课  创建图像、视频、音频、3D 等更多内容。
# 课程 类型 语言
01 生成模型:分类法与历史 学习 Python
02 自编码器与 VAE 构建 Python
03 GAN:生成器与判别器 构建 Python
04 条件 GAN 与 Pix2Pix 构建 Python
05 StyleGAN 构建 Python
06 扩散模型 — 从零实现 DDPM 构建 Python
07 潜空间扩散与 Stable Diffusion 构建 Python
08 ControlNet、LoRA 与条件控制 构建 Python
09 Inpainting、Outpainting 与编辑 构建 Python
10 视频生成 构建 Python
11 音频生成 构建 Python
12 3D 生成 构建 Python
13 Flow Matching 与 Rectified Flows 构建 Python
14 评估:FID、CLIP Score 构建 Python
19 视觉自回归建模(VAR):下一尺度预测 构建 Python
阶段 9 — 强化学习  12 课  RLHF 与游戏智能体的基础。
# 课程 类型 语言
01 MDPs、状态、动作与奖励 学习 Python
02 动态规划 构建 Python
03 蒙特卡洛方法 构建 Python
04 Q-Learning、SARSA 构建 Python
05 深度 Q 网络(DQN) 构建 Python
06 策略梯度 — REINFORCE 构建 Python
07 Actor-Critic — A2C、A3C 构建 Python
08 PPO 构建 Python
09 奖励建模与 RLHF 构建 Python
10 多智能体强化学习 构建 Python
11 Sim-to-Real 迁移 构建 Python
12 RL 用于游戏 构建 Python
阶段 10 — 从零开始构建 LLM  24 课  构建、训练并理解大语言模型。
# 课程 类型 语言
01 分词器:BPE、WordPiece、SentencePiece 构建 Python, Rust
02 从零开始构建分词器 构建 Python
03 预训练数据流水线 构建 Python
04 预训练一个迷你 GPT(124M) 构建 Python
05 分布式训练、FSDP、DeepSpeed 构建 Python
06 指令微调 — SFT 构建 Python
07 RLHF — 奖励模型 + PPO 构建 Python
08 DPO — 直接偏好优化 构建 Python
09 Constitutional AI 与自我提升 构建 Python
10 评估 — 基准测试、Evals 构建 Python
11 量化:INT8、GPTQ、AWQ、GGUF 构建 Python
12 推理优化 构建 Python
13 构建完整的 LLM 流水线 构建 Python
14 开放模型:架构解析 学习 Python
15 投机解码与 EAGLE-3 构建 Python
16 Differential Attention(V2) 构建 Python
17 原生稀疏注意力(DeepSeek NSA) 构建 Python
18 Multi-Token Prediction(MTP) 构建 Python
19 DualPipe 并行 学习 Python
20 DeepSeek-V3 架构解析 学习 Python
21 Jamba — 混合 SSM-Transformer 学习 Python
22 异步与 Hogwild! 推理 构建 Python
25 投机解码与 EAGLE 构建 Python
34 梯度检查点与激活重计算 构建 Python
阶段 11 — LLM 工程  17 课  让 LLM 在生产环境中落地。
# 课程 类型 语言
01 提示工程:技术与模式 构建 Python
02 Few-Shot、CoT、Tree-of-Thought 构建 Python
03 结构化输出 构建 Python
04 嵌入与向量表示 构建 Python
05 上下文工程 构建 Python
06 RAG:检索增强生成 构建 Python
07 高级 RAG:分块、重排序 构建 Python
08 使用 LoRA 与 QLoRA 微调 构建 Python
09 Function Calling 与工具使用 构建 Python
10 评估与测试 构建 Python
11 缓存、速率限制与成本 构建 Python
12 护栏与安全 构建 Python
13 构建生产级 LLM 应用 构建 Python
14 Model Context Protocol(MCP) 构建 Python
15 提示缓存与上下文缓存 构建 Python
16 智能体状态机 — 图、节点、检查点 构建 Python
17 智能体框架权衡 学习 Python
阶段 12 — 多模态 AI  25 课  跨模态地看、听、读与推理——从 ViT 图像块到计算机使用智能体。
# 课程 类型 语言
01 视觉 Transformer 与 Patch-Token 原语 学习 Python
02 CLIP 与对比式视觉-语言预训练 构建 Python
03 BLIP-2 Q-Former 作为模态桥接 构建 Python
04 Flamingo 与门控交叉注意力 学习 Python
05 LLaVA 与视觉指令微调 构建 Python
06 任意分辨率视觉 — Patch-n'-Pack 与 NaFlex 构建 Python
07 开放权重 VLM 实践:真正重要的部分 学习 Python
08 LLaVA-OneVision:单图、多图、视频 构建 Python
09 Qwen-VL 家族与动态 FPS 视频 学习 Python
10 InternVL3 原生多模态预训练 学习 Python
11 Chameleon 早期融合 Token-Only 构建 Python
12 Emu3 用于生成的下一词元预测 学习 Python
13 Transfusion:自回归 + 扩散 构建 Python
14 Show-o 统一离散扩散 学习 Python
15 Janus-Pro 解耦编码器 构建 Python
16 MIO 任意到任意流式 学习 Python
17 视频-语言时间定位 构建 Python
18 百万 Token 上下文下的长视频 构建 Python
19 音频-语言模型:从 Whisper 到 AF3 构建 Python
20 Omni 模型:Thinker-Talker 流式 构建 Python
21 具身 VLA:RT-2、OpenVLA、π0、GR00T 学习 Python
22 文档与图表理解 构建 Python
23 ColPali 视觉原生文档 RAG 构建 Python
24 多模态 RAG 与跨模态检索 构建 Python
25 多模态智能体与计算机使用(综合项目) 构建 Python
阶段 13 — 工具与协议  31 课  AI 与现实世界之间的接口。
# 课程 类型 语言
01 工具接口 学习 Python
02 Function Calling 深入解析 构建 Python
03 并行与流式工具调用 构建 Python
04 结构化输出 构建 Python
05 工具 Schema 设计 学习 Python
06 MCP 基础:无状态请求与 JSON-RPC 学习 Python
07 构建 MCP Server:无状态 Python 和 TypeScript 构建 Python, TypeScript
08 构建 MCP Client:发现、路由与双时代回退 构建 Python
09 MCP 传输:stdio 与无状态 Streamable HTTP 学习 Python
10 MCP 资源与提示:无状态服务器的可寻址上下文 构建 Python
11 MCP 模型输入:采样迁移与无状态 MRTR 构建 Python
12 显式作用域与无状态 Elicitation 构建 Python
13 MCP Tasks 扩展:无状态核心上的持久化工作 构建 Python
14 无状态协议上的 MCP 应用 构建 Python
15 MCP 安全:中毒元数据、路由与 MRTR 状态 学习 Python
16 MCP 授权:CIMD、颁发者绑定、PKCE 与 Step-Up 构建 Python
17 无状态 MCP 网关与注册表准入 学习 Python
18 生产环境中的 MCP 认证:颁发者绑定注册与令牌 构建 Python
19 A2A 协议 构建 Python
20 OpenTelemetry GenAI 构建 Python
21 LLM 路由层 学习 Python
22 智能体技能:可移植契约与运行时边界 构建 Python
23 综合项目:无状态工具生态 构建 Python
24 技能发现与渐进式披露 构建 Python
25 技能调用与路由 构建 Python
26 技能权限、沙箱与信任 构建 Python
27 技能评估、打包与可移植性 构建 Python
28 MCP 工具契约与内容 构建 Python
29 MCP 可靠性、取消与流控 构建 Python
30 MCP 注册表供应链:准入、漂移与回滚 构建 Python
31 MCP 合规工程:版本、证据与运维 构建 Python

课程 06-18 和 28-31 构成聚焦的 Model Context Protocol (MCP) 路径。其清单顺序 为 06, 07, 08, 09, 10, 11, 12, 13, 14, 15, 16, 18, 17, 28, 29, 30, 31。从 上面主机特定的 learn-mcp 调用开始。课程 23 是其中唯一可选的综合项目,并且还需要课程 19 和 20。

课程 22 和 24-27 构成聚焦的 Agent Skills 学习路径,从包 契约到真实主机的发布门控。使用上面显示的、主机特定的 learn-agent-skills 调用开始;不要从 22 到 23 遵循按数字顺序的下一步导航。

阶段 14 — 智能体工程  54 课  从第一性原理构建智能体,可靠地使用编码智能体,并在实现之前塑造工作。
# 课程 类型 语言
01 智能体循环 构建 Python
02 ReWOO 与 Plan-and-Execute 构建 Python
03 Reflexion 与语言强化学习 构建 Python
04 思维树与 LATS 构建 Python
05 Self-Refine 与 CRITIC 构建 Python
06 工具使用与函数调用 构建 Python
07 智能体记忆 — 虚拟上下文与记忆分页 构建 Python
08 记忆块与睡眠期计算 构建 Python
09 混合记忆 — 向量 + 图 + KV 构建 Python
10 技能库与终身学习(Voyager) 构建 Python
11 基于 HTN 与进化搜索的规划 构建 Python
12 Anthropic 工作流模式 构建 Python
13 有状态图编排 — 持久化执行与检查点 构建 Python
14 智能体的 Actor 模型 构建 Python
15 基于角色的智能体团队 — 角色、任务与流程 构建 Python
16 OpenAI Agents SDK — 交接、护栏与追踪 构建 Python
17 将 Harness 作为库 — 子智能体与会话存储 构建 Python
18 生产级智能体运行时 学习 Python
19 基准测试 — SWE-bench、GAIA、AgentBench 学习 Python
20 基准测试 — WebArena 与 OSWorld 学习 Python
21 计算机使用 — Claude、OpenAI CUA、Gemini 构建 Python
22 语音智能体 — Pipecat 与 LiveKit 构建 Python
23 OpenTelemetry GenAI 语义约定 构建 Python
24 智能体可观测性 — Langfuse、Phoenix、Opik 学习 Python
25 多智能体辩论与协作 构建 Python
26 失效模式 — 智能体为何会失效 构建 Python
27 提示注入与 PVE 防御 构建 Python
28 编排模式 — 监督者、集群与分层 构建 Python
29 生产运行时 — 队列、事件与定时任务 学习 Python
30 评测驱动的智能体开发 构建 Python
31 智能体工作台:为何能力强的模型仍会失败 学习 Python
32 最小智能体工作台 构建 Python
33 把智能体指令作为可执行约束 构建 Python
34 仓库记忆与持久状态 构建 Python
35 智能体初始化脚本 构建 Python
36 范围契约与任务边界 构建 Python
37 运行时反馈回路 构建 Python
38 验证门禁 构建 Python
39 评审智能体:让构建者与标记者分离 构建 Python
40 多会话交接 构建 Python
41 在真实仓库中使用工作台 构建 Python
42 综合项目:交付可复用的智能体工作台包 构建 Python
43 在智能体编写代码前先界定任务 构建 Python
44 构建基于证据的执行计划 构建 Python
45 通过隔离与合并契约委派智能体工作 构建 Python
46 将每一次智能体纠正转化为系统改进 构建 Python
47 在选择输出前先定义结果 构建 Python
48 发现人们实际执行的工作流 构建 Python
49 梳理假设并优先解决风险最大的一项 构建 Python
50 选择能改变决策的最小切片 构建 Python
51 编写保留判断空间的设计规格 构建 Python
52 在结果出现前设计成功指标 构建 Python
53 审慎选择原型、试点或生产 构建 Python
54 构建带归属与退役机制的反馈棘轮 构建 Python

每节第 14 阶段工作台课程(31-42)都会附带一个 mission.md 简报文件,在智能体打开完整课程文档之前先对其进行说明。

课程 31-46 构成智能体辅助工程路径。 它的路径清单顺序将工作台基础与任务界定、规划、 委派和持久反馈结合起来。课程 47-54 构成 产品判断与交付路径,从结果界定 经过证据、风险、范围、度量、分阶段发布,直至反馈归属。

第 15 阶段 — 自主系统  22 门课程  长时程智能体、自我改进与 2026 安全栈。
# 课程 类型 语言
01 从聊天机器人到长时程智能体(METR) 学习 Python
02 STaR、V-STaR、Quiet-STaR:自学习推理 学习 Python
03 AlphaEvolve:进化式编码智能体 学习 Python
04 Darwin Gödel Machine:自修改智能体 学习 Python
05 AI Scientist v2:研讨会级研究 学习 Python
06 自动化对齐研究(Anthropic AAR) 学习 Python
07 递归自我改进:能力与对齐 学习 Python
08 有界自我改进设计 学习 Python
09 自主编码智能体格局(SWE-bench、CodeAct) 学习 Python
10 自主智能体的权限模式 学习 Python
11 浏览器智能体与间接提示注入 学习 Python
12 长时运行智能体的持久化执行 学习 Python
13 动作预算、迭代上限与成本控制器 学习 Python
14 紧急停止开关、熔断器与金丝雀令牌 学习 Python
15 HITL:先提议后提交 学习 Python
16 检查点与回滚 学习 Python
17 宪法 AI 与规则覆盖 学习 Python
18 Llama Guard 与输入/输出分类 学习 Python
19 Anthropic 负责任扩展政策 v3.0 学习 Python
20 OpenAI 准备度框架与 DeepMind FSF 学习 Python
21 METR 时间跨度与外部评估 学习 Python
22 CAIS、CAISI 与社会规模风险 学习 Python
第 16 阶段 — 多智能体与集群  25 门课程  协调、涌现与集体智能。
# 课程 类型 语言
01 为何采用多智能体 学习 TypeScript
02 FIPA-ACL 传承与言语行为 学习 Python
03 通信协议 构建 TypeScript
04 多智能体原语模型 学习 Python
05 监督者 / 编排者-工作者模式 构建 Python
06 分层架构与分解漂移 学习 Python
07 心智社会与多智能体辩论 构建 Python
08 角色专业化 — 规划者 / 批评者 / 执行者 / 验证者 构建 Python
09 并行集群与网络化架构 构建 Python
10 群聊与发言者选择 构建 Python
11 交接与例程(无状态编排) 构建 Python
12 A2A — 智能体间协议 构建 Python
13 共享记忆与黑板模式 构建 Python
14 共识与拜占庭容错 构建 Python
15 投票、自一致性与辩论拓扑 构建 Python
16 谈判与议价 构建 Python
17 生成式智能体与涌现模拟 构建 Python
18 心智理论与涌现协调 构建 Python
19 集群优化(PSO、ACO) 构建 Python
20 MARL — MADDPG、QMIX、MAPPO 学习 Python
21 智能体经济、代币激励与声誉 学习 Python
22 生产级扩展 — 队列、检查点与持久性 构建 Python
23 失效模式 — MAST、群体思维与单一文化 学习 Python
24 评估与协调基准 学习 Python
25 案例研究与 2026 年最先进水平 学习 Python
第 17 阶段 — 基础设施与生产  28 门课程  让 AI 落地真实世界。
# 课程 类型 语言
01 托管 LLM 平台 — Bedrock、Azure OpenAI、Vertex AI 学习 Python
02 推理平台经济学 — Fireworks、Together、Baseten、Modal 学习 Python
03 Kubernetes 上的 GPU 自动扩缩容 — Karpenter、KAI Scheduler 学习 Python
04 推理引擎内部机制 — PagedAttention、连续批处理与分块预填充 学习 Python
05 EAGLE-3 推测解码的生产应用 学习 Python
06 前缀缓存推理 — RadixAttention 与 KV 复用 学习 Python
07 硬件专用推理编译 — Blackwell 上的 FP8 与 NVFP4 学习 Python
08 推理指标 — TTFT、TPOT、ITL、Goodput、P99 学习 Python
09 生产级量化 — AWQ、GPTQ、GGUF、FP8、NVFP4 学习 Python
10 无服务器 LLM 冷启动缓解 学习 Python
11 多区域 LLM 推理与 KV 缓存局部性 学习 Python
12 边缘推理 — ANE、Hexagon、WebGPU、Jetson 学习 Python
13 LLM 可观测性技术栈选型 学习 Python
14 提示缓存与语义缓存经济学 学习 Python
15 批量 API — 50% 折扣成为行业标准 学习 Python
16 将模型路由作为成本降低原语 学习 Python
17 分离式预填充/解码 — NVIDIA Dynamo 与 llm-d 学习 Python
18 生产推理技术栈 — KV 卸载与缓存感知路由 学习 Python
19 AI 网关 — LiteLLM、Portkey、Kong、Bifrost 学习 Python
20 影子部署、金丝雀发布与渐进式部署 学习 Python
21 A/B 测试 LLM 功能 — GrowthBook 与 Statsig 学习 Python
22 LLM API 负载测试 — k6、LLMPerf、GenAI-Perf 构建 Python
23 AI 的 SRE — 多智能体事故响应 学习 Python
24 LLM 生产环境的混沌工程 学习 Python
25 安全 — 密钥、PII 清洗与审计日志 学习 Python
26 合规 — SOC 2、HIPAA、GDPR、EU AI Act、ISO 42001 学习 Python
27 LLM 的 FinOps — 单位经济性与多租户归因 学习 Python
28 自托管推理选型 — 让引擎匹配硬件与规模 学习 Python
第 18 阶段 — 伦理、安全与对齐  30 门课程  构建帮助人类的 AI。这不是可选项。
# 课程 类型 语言
01 指令遵循作为对齐信号 学习 Python
02 奖励作弊与古德哈特定律 学习 Python
03 直接偏好优化系列 学习 Python
04 RLHF 放大中的迎合偏差 学习 Python
05 宪法式 AI 与 RLAIF 学习 Python
06 Mesa-Optimization 与欺骗性对齐 学习 Python
07 潜伏智能体 — 持续性欺骗 学习 Python
08 前沿模型中的上下文内图谋 学习 Python
09 对齐伪装 学习 Python
10 AI 控制 — 抗颠覆安全 学习 Python
11 可扩展监督与弱到强泛化 学习 Python
12 红队测试:PAIR 与自动化攻击 构建 Python
13 多示例越狱 学习 Python
14 ASCII 艺术与视觉越狱 构建 Python
15 间接提示注入 构建 Python
16 红队工具:Garak、Llama Guard、PyRIT 构建 Python
17 WMDP 与两用能力评估 学习 Python
18 前沿安全框架 — RSP、PF、FSF 学习 Python
19 模型福祉研究 学习 Python
20 偏见与表征伤害 构建 Python
21 公平性标准:群体、个体、反事实 学习 Python
22 面向 LLM 的差分隐私 构建 Python
23 水印技术:SynthID、Stable Signature、C2PA 构建 Python
24 监管框架:欧盟、美国、英国、韩国 学习 Python
25 EchoLeak 与面向 AI 的 CVE 学习 Python
26 模型卡、系统卡与数据集卡 构建 Python
27 数据溯源与训练数据治理 学习 Python
28 对齐研究生态:MATS、Redwood、Apollo、METR 学习 Python
29 内容审核系统:OpenAI、Perspective、Llama Guard 构建 Python
30 两用风险:网络、生物、化学、核 学习 Python
阶段 19 — 综合项目  85 节课程  17 个端到端产品 + 9 条深度构建路线。每个项目 20-40 小时;每条路线 4-12 节课程。
# 项目 结合 语言
01 终端原生编码智能体 P0 P5 P7 P10 P11 P13 P14 P15 P17 P18 Python
02 代码库 RAG(跨仓库语义搜索) P5 P7 P11 P13 P17 Python
03 实时语音助手(ASR → LLM → TTS) P6 P7 P11 P13 P14 P17 Python
04 多模态文档问答(视觉优先) P4 P5 P7 P11 P12 P17 Python
05 自主研究智能体(AI 科学家级) P0 P2 P3 P7 P10 P14 P15 P16 P18 Python
06 面向 Kubernetes 的 DevOps 故障排查智能体 P11 P13 P14 P15 P17 P18 Python
07 端到端微调流水线 P2 P3 P7 P10 P11 P17 P18 Python
08 生产级 RAG 聊天机器人(受监管行业) P5 P7 P11 P12 P17 P18 Python
09 代码迁移智能体(仓库级升级) P5 P7 P11 P13 P14 P15 P17 Python
10 多智能体软件工程团队 P11 P13 P14 P15 P16 P17 Python
11 LLM 可观测性与评估仪表盘 P11 P13 P17 P18 Python
12 视频理解流水线(场景 → 问答) P4 P6 P7 P11 P12 P17 Python
13 带注册表与治理的无状态 MCP 服务器 P11 P13 P14 P17 P18 Python
14 推测解码推理服务器 P3 P7 P10 P17 Python
15 宪法式安全框架 + 红队靶场 P10 P11 P13 P14 P18 Python
16 GitHub Issue 到 PR 自主智能体 P11 P13 P14 P15 P17 Python
17 个人 AI 导师(自适应、多模态) P5 P6 P11 P12 P14 P17 P18 Python

深度构建路线 — 多节课程系列,从零构建完整子系统。

# 项目 结合 语言
20 智能体框架循环契约 A. 智能体框架 Python
21 带 Schema 校验的工具注册表 A. 智能体框架 Python
22 基于换行分隔标准 I/O 的 JSON-RPC 2.0 A. 智能体框架 Python
23 函数调用调度器 A. 智能体框架 Python
24 规划-执行控制流 A. 智能体框架 Python
25 验证门与观察预算 A. 智能体框架 Python
26 带拒绝清单和路径隔离的沙箱运行器 A. 智能体框架 Python
27 带固定测试任务的评估框架 A. 智能体框架 Python
28 基于 OTel GenAI Span 与 Prometheus 指标的可观测性 A. 智能体框架 Python
29 基于框架的端到端编码智能体 A. 智能体框架 Python
30 从零实现 BPE 分词器 B. NLP LLM Python
31 带滑动窗口的分词数据集 B. NLP LLM Python
32 Token 与位置嵌入 B. NLP LLM Python
33 多头自注意力 B. NLP LLM Python
34 从零实现 Transformer 块 B. NLP LLM Python
35 GPT 模型组装 B. NLP LLM Python
36 训练循环与评估 B. NLP LLM Python
37 加载预训练权重 B. NLP LLM Python
38 通过头替换的分类器微调 B. NLP LLM Python
39 通过监督微调的指令调优 B. NLP LLM Python
40 从零实现直接偏好优化 B. NLP LLM Python
41 完整评估流水线 B. NLP LLM Python
42 大型语料下载器 C. 端到端训练 Python
43 HDF5 分词语料 C. 端到端训练 Python
44 带线性热启动的余弦学习率 C. 端到端训练 Python
45 梯度裁剪与混合精度 C. 端到端训练 Python
46 梯度累积 C. 端到端训练 Python
47 检查点保存与恢复 C. 端到端训练 Python
48 从零实现分布式数据并行与 FSDP C. 端到端训练 Python
49 语言模型评估框架 C. 端到端训练 Python
50 假设生成器 D. 自动研究 Python
51 文献检索 D. 自动研究 Python
52 实验运行器 D. 自动研究 Python
53 结果评估器 D. 自动研究 Python
54 论文写作器 D. 自动研究 Python
55 批评者循环 D. 自动研究 Python
56 迭代调度器 D. 自动研究 Python
57 端到端研究演示 D. 自动研究 Python
58 视觉编码器分块 E. 多模态 VLM Python
59 视觉 Transformer 编码器 E. 多模态 VLM Python
60 用于模态对齐的投影层 E. 多模态 VLM Python
61 交叉注意力融合 E. 多模态 VLM Python
62 视觉-语言预训练 E. 多模态 VLM Python
63 多模态评估 E. 多模态 VLM Python
64 分块策略对比 F. 高级 RAG Python
65 使用 BM25 与稠密嵌入的混合检索 F. 高级 RAG Python
66 交叉编码器重排序器 F. 高级 RAG Python
67 查询改写:HyDE、多查询与分解 F. 高级 RAG Python
68 RAG 评估:准确率、召回率、MRR、nDCG、忠实度、答案相关性 F. 高级 RAG Python
69 端到端 RAG 系统 F. 高级 RAG Python
70 任务规范格式 G. 评估框架 Python
71 经典指标 G. 评估框架 Python
72 代码执行指标 G. 评估框架 Python
73 困惑度与校准 G. 评估框架 Python
74 排行榜聚合 G. 评估框架 Python
75 端到端评估运行器 G. 评估框架 Python
76 从零实现集合通信操作 H. 分布式训练 Python
77 从零实现数据并行 DDP H. 分布式训练 Python
78 ZeRO 优化器状态分片 H. 分布式训练 Python
79 流水线并行与气泡分析 H. 分布式训练 Python
80 分片检查点与原子恢复 H. 分布式训练 Python
81 端到端分布式训练 H. 分布式训练 Python
82 越狱分类法 I. 安全框架 Python
83 提示注入检测器 I. 安全框架 Python
84 拒绝响应评估 I. 安全框架 Python
85 内容分类器集成 I. 安全框架 Python
86 宪法式规则引擎 I. 安全框架 Python, YAML
87 端到端安全门控 I. 安全框架 Python
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

工具箱

每一课都会生成一个可复用的产物。学完后,你将拥有:

outputs/
├── prompts/      prompt templates for every AI task
└── skills/       SKILL.md files for AI coding agents

将它们接入 Claude、Cursor、Codex、OpenClaw、Hermes,或任何会读取 SKILL.md / AGENTS.md 目录的智能体。这是真实工具,不是课后作业。

将课程技能安装到你的智能体中

两套技能,两个安装器:

学习类技能start-learninglearncourse-guidelearn-mcplearn-agent-skillsclaude-certificationfind-your-levelcheck-understanding)位于 skills/ 目录下,可通过一条命令安装到 支持技能的主机中。安装需要 Node.js 和 npx,但不需要克隆仓库或 Python:

npx skills add rohitg00/ai-engineering-from-scratch

skills 会写入安装时所选的宿主与作用域,例如 .claude/skills/.cursor/skills/.codex/skills/,或其他受支持的 skills 文件夹。请确认所选宿主能够发现该确切目标。

课程交付物。 仓库在 phases/**/outputs/ 下提供 396 个 skills 和 99 个 prompts; 请通过 scripts/install_skills.py 安装。需要先克隆仓库。支持标签筛选、试运行以及按代理的布局:

python3 scripts/install_skills.py <target>                                 # every skill, default --layout skills (nested)
python3 scripts/install_skills.py <target> --layout skills                 # same as above, explicit
python3 scripts/install_skills.py <target> --type all                      # skills + prompts + agents
python3 scripts/install_skills.py <target> --phase 14                      # one phase only
python3 scripts/install_skills.py <target> --tag rag                       # filter by tag
python3 scripts/install_skills.py <target> --layout flat                   # flat files
python3 scripts/install_skills.py <target> --dry-run                       # preview without writing
python3 scripts/install_skills.py <target> --force                         # overwrite existing files

<target> 是你的智能体的技能目录(例如: ~/.claude/skills/~/.cursor/skills/~/.config/openclaw/skills/.skills/,或你的智能体读取的任何路径)。

默认情况下,脚本会拒绝覆盖已有目标路径,并在列出所有冲突路径后以退出码 1 退出。使用 --dry-run 预览冲突,或使用 --force 覆盖。每次非 dry-run 运行都会在目标目录中写入一个 manifest.json,其中包含按类型和阶段分组的完整清单。选择你的智能体读取的布局:

--layout 写入路径
skills <target>/<name>/SKILL.md(嵌套约定,支持 Claude / Cursor / Codex / OpenClaw / Hermes)
by-phase <target>/phase-NN/<name>.md
flat <target>/<name>.md

将 Agent Workbench 放入你自己的仓库

第 14 阶段的毕业项目附带一个可复用的 Agent Workbench 包(AGENTS.md、schemas、 init / verify / handoff 脚本)。使用以下命令将其初始化到任意仓库中:

python3 scripts/scaffold_workbench.py path/to/your-repo            # full pack + seeds
python3 scripts/scaffold_workbench.py path/to/your-repo --minimal  # skip docs/
python3 scripts/scaffold_workbench.py path/to/your-repo --dry-run  # preview only
python3 scripts/scaffold_workbench.py path/to/your-repo --force    # overwrite

你将获得七个已接好的工作台界面、一个初始版 task_board.json, 以及一个 schema_version: 1 的全新 agent_state.json。接下来:编辑 任务,编辑 AGENTS.md,运行 scripts/init_agent.py,然后把契约交给 你的 agent。该 pack 源码位于 phases/14-agent-engineering/42-agent-workbench-capstone/outputs/agent-workbench-pack/

以 JSON 浏览整个课程

scripts/build_catalog.py 会遍历磁盘上的每个阶段、每节课和每个产物, 并在仓库根目录写入 catalog.json。一个文件,覆盖课程的全部事实。

python3 scripts/build_catalog.py               # writes <repo>/catalog.json
python3 scripts/build_catalog.py --stdout      # to stdout, do not touch repo
python3 scripts/build_catalog.py --out path/to/file.json

目录基于文件系统生成,而不是基于 README 生成,因此数量始终与磁盘上的实际内容保持一致。可用于站点构建、下游工具,或用于验证 README 中的数量是否发生偏移。Schema 已在脚本顶部说明。

GitHub Action(.github/workflows/curriculum.yml)会在每次 PR 中重建 catalog.json,如果已提交的文件过期,则构建失败。修改任何课程后,请运行 python3 scripts/build_catalog.py 并提交结果,否则 CI 会拒绝该 PR。同一工作流还会以仅警告模式运行 audit_lessons.py(因此现有偏移不会阻止贡献者)。

对所有课程的 Python 代码进行冒烟检查

scripts/lesson_run.py 会字节编译每个课程 code/ 目录下的每个 .py 文件。默认模式仅进行语法检查——不执行,不需要 API 密钥,也不需要重型 ML 依赖。可捕获贡献者最常引入的回归问题(缩进错误、损坏的 f-string、误改)。

python3 scripts/lesson_run.py                  # syntax-check the whole curriculum
python3 scripts/lesson_run.py --phase 14       # one phase only
python3 scripts/lesson_run.py --json           # JSON report on stdout
python3 scripts/lesson_run.py --strict         # exit 1 if any lesson fails
python3 scripts/lesson_run.py --execute        # actually run, 10s timeout per lesson

--execute 会以 10 秒超时运行每个课程的 code/main.py(或第一个 .py 文件)。如果课程的入口文件以 # requires: pkg1, pkg2 注释开头,并在其中列出非标准库依赖,则会被跳过,跳过原因标记为 needs <deps>。该脚本需主动启用,且未接入 CI。

仅使用标准库,需 Python 3.10+。设置 LINK_CHECK_SKIP=domain1,domain2 可覆盖默认跳过列表(twitter.comx.comlinkedin.cominstagram.commedium.com —— 这些域名会严格拦截自动化 HEAD/GET 请求)。

从哪里开始

背景 起点 预计时间
编程与 AI 新手 阶段 0 — 环境搭建 约 306 小时
熟悉 Python,但不了解 ML 阶段 1 — 数学基础 约 270 小时
熟悉 ML,但不了解深度学习 阶段 3 — 深度学习核心 约 200 小时
熟悉深度学习,想学习 LLM 与智能体 阶段 10 — 从零构建 LLM 约 100 小时
资深工程师,只想做智能体工程 阶段 14 — 智能体工程 约 60 小时
只想构建生产级 MCP 系统 Model Context Protocol (MCP) 路径 约 23 小时 15 分钟
只想构建生产级 Agent Skills Agent Skills 工程路径 约 9.5 小时
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

为何当下至关重要

FIG_003 · A
行业信号
FIG_003 · B
涵盖的基础论文

“最热门的新编程语言是英语。”
Andrej Karpathy推文

“软件工程正在我们眼前被重构。”
Boris Cherny,Claude Code 创造者

“模型会持续变强。真正能产生复利效应的能力,是知道该构建什么。”
— 行业共识,2026

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

参与贡献

目标 阅读
贡献课程或提交修复 CONTRIBUTING.md
为团队或学校 Fork FORKING.md
课程模板 LESSON_TEMPLATE.md
跟踪进度 ROADMAP.md
术语表 glossary/terms.md
行为准则 CODE_OF_CONDUCT.md

在提交课程之前,运行不变量检查:

python3 scripts/audit_lessons.py           # full curriculum
python3 scripts/audit_lessons.py --phase 14  # single phase
python3 scripts/audit_lessons.py --json    # CI-friendly output

当任意规则校验失败时,退出码为非零。规则(L001–L010)用于校验目录 结构、docs/en.md 是否存在且包含 H1、code/ 是否非空、quiz.json schema (拒绝曾导致 issue #102 的旧版 q/choices/answer 键),以及 课程文档中的相对链接。

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

赞助本项目

免费,采用 MIT 许可证,共 523 个课时。课程体系由现金赞助和经批准的 Hardware Lab Partners 维护。

触达规模: 每月 114,584 名访客 · 181,995 次页面浏览量(Vercel Web Analytics 数据已于 2026-08-29 核验) · 50,728 个 GitHub Star(已于 2026-08-29 核验)。

当前赞助商

赞助商 支持内容
CodeRabbit · iii 当前赞助商,支持课程维护与开源开发。
Vercel OSS Program 通过 Vercel Open Source Program 提供开源基础设施支持。
赞助等级 $/月 您获得的权益
Backer $25 姓名列入 BACKERS.md
Bronze $250 在 README 赞助区块中增加纯文本行 + 发布日推文
Silver $750 在 README 中展示小尺寸 Logo + 在 API 课程中列为受支持提供商之一
Gold $2,000 在 README 中展示中等尺寸 Logo + 赞助页面 + 每季度 X / LinkedIn 联合推荐
Platinum $5,000 首屏主 Logo + 一节专属集成课程,最多 1 家合作伙伴
Diamond / Title Partner $10,000 唯一冠名合作伙伴展示位 + 首屏主 Logo + 每季度报告与联合推荐,最多 1 家合作伙伴

硬件制造商可通过单独的 Hardware Lab Partner 政策 支持本课程。设备属于实物支持,不会自动授予现金赞助等级。

完整价目表、硬性规则、定价锚点及触达数据:SPONSORS.md。 通过 GitHub Sponsors 报名。

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

如果这份手册对你有帮助,请给仓库加 Star。它能让项目保持活力。

License

MIT。可任意使用——Fork 它、用它教学、出售它、上线它。欢迎保留署名,但不强制。

Rohit Ghumare 与社区共同维护。

@ghumare64  ·  aiengineeringfromscratch.com  ·  反馈 / 建议