文件最后提交记录最后更新时间
【课程社区共建】新增大语言模型微调实战课程框架 Co-authored-by: 韩翔宇<admin@pescn.cn> # message auto-generated for no-merge-commit merge: !69 merge master into master 【课程社区共建】新增大语言模型微调实战课程框架 Created-by: pescn Commit-by: 韩翔宇 Merged-by: cann-robot Description: ## 描述 本课程面向**高校在校学生**,结合 SwanLab 团队正在开展的**线下启航营**实践内容,围绕 Qwen3 系列模型在昇腾 NPU 上的训练与加速展开。 本 PR 包括**大语言模型微调实战课程**中第一章:Qwen3 基座模型指令微调(SFT)的内容 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [x] 内容优化 - [ ] 其他,请描述: ## 其他说明 第二章课程数据集部分还在做合规和脱敏,因此临时处于占位符状态 See merge request: cann/cann-learning-hub!6916 天前
README.md

SwanLab

SwanLab x CANN 社区合作课程


第 01 章 · 大语言模型基础理论介绍

章节定位

本章面向完全没有大模型背景的同学,建立后续 02-05 章所需的基础知识与术语体系。 预期读者在学完本章后,能看懂后续章节里出现的 token、Transformer、self-attention、KV cache、SFT、LoRA、RLHF 等术语,知道它们大致在解决什么问题。

计划节次

节次 标题(暂定) 状态
01.01 章节简介与学习路径 建设中
01.02 从词向量到 Transformer 建设中
01.03 自注意力机制与位置编码 建设中
01.04 预训练、SFT、RLHF 三段式流程 建设中
01.05 推理过程与 KV cache 建设中