文件最后提交记录最后更新时间
25 天前
25 天前
25 天前
25 天前
25 天前
25 天前
24 天前
README

面向智能计算系统的数据结构


课程简介

随着人工智能技术的快速发展,深度学习模型的规模与算力需求持续增长,智能计算系统已成为支撑AI应用落地的核心基础设施。本课程依托于华为昇腾计算平台与CANN技术体系,构建智能计算系统场景下的模块化实验。实验内容涵盖了PyTorch开发验证、Ascend C算子开发、多卡混合并行训练、模型微调、模型转换与部署、高并发推理服务等核心内容,每个实验均提供了可运行的程序,可结合华为ICT学院与此配套的体系化课程进行深入学习。通过实验课程,指导学习者使用PyTorch与Ascend C编程,面向昇腾NPU完成从单机模型验证、算子优化到端云系统集成的全流程实践,培养智能计算系统的系统工程能力。

适合人群

建议学习者具备Python基础和一定的C/C++基础,不要求事先有Ascend C编程经验。

  • 对智能计算系统、并行训练或算子开发感兴趣,希望系统学习从模型训练到推理部署全流程的学习者;
  • 具备PyTorch基础,希望进一步了解昇腾平台下模型训练、微调与部署实践的学习者;
  • 对华为昇腾计算平台与Ascend C算子开发感兴趣的学习者。

学习目标

  • 理解昇腾智能计算系统的体系结构与软硬件协同设计原理
  • 掌握华为昇腾平台下模型训练、微调与推理部署的基本方法
  • 具备面向华为昇腾平台的算子开发与端云系统集成实践能力

已验证的在线体验环境

  • CANNLab 云开发环境
    • NPU 镜像模板:cann_9.0.0_py3.11-A2-arm
    • 规格:1*NPU 910B3 16vCPUs 32GiB
    • Python 内核:Python 3.11.4(CANN)

CANNLab 环境创建与使用方法请参考 CANNLab 环境体验指南。

课程章节目录

第一章:PyTorch 模型训练与推理

Notebook 状态
01 PyTorch 模型训练与推理 ✅ 已发布

第二章:昇腾环境检查与连通验证

Notebook 状态
01 昇腾环境检查与连通验证 ✅ 已发布

第三章:PyTorch/torch_npu 模型迁移与训练

Notebook 状态
01 PyTorch/torch_npu 模型迁移与训练 ✅ 已发布

第四章:Ascend C 算子开发

Notebook 状态
01 Ascend C 典型算子开发 ✅ 已发布

第五章:Ascend C MatMul Tiling 与 Double Buffer 优化

Notebook 状态
01 Ascend C MatMul Tiling 与 Double Buffer 优化 ✅ 已发布