文件	最后提交记录	最后更新时间
README.md	add torchtitan-npu committer	1 个月前
sig-info.yaml	修改不存在的人员账号和sig描述中错别字、标点符号等。	16 天前

framework-adapter SIG

概述

欢迎来到 framework-adapter SIG！我们聚焦 AI 框架与昇腾芯片的深度适配，实现主流框架对昇腾硬件的原生支持，在确保语义一致性与高性能的同时，提高用户易用性并降低迁移成本。

本SIG 主要负责以下几个核心仓库的开发与维护：

torchtitan-npu
- 定位：torchtitan-npu 是面向昇腾NPU亲和的训练系统框架，支持大模型训练中的内存、并行、调度与编译协同等关键能力。
- 功能：torchtitan-npu 基于 TorchTitan 的训练流程，在昇腾平台上提供稳定、可复现且可分析的训练框架，用于支撑真实大模型训练负载。仓库围绕训练阶段的关键系统能力，协同运行时与编译栈，实现内存管理、分布式并行、执行调度、算子融合与图优化路径等技术的工程化落地，并提供面向训练性能的分析与调优能力。同时，继承了TorchTitan原生的易用性优势。
xla-npu
- 定位：xla-npu 是一个面向华为昇腾 NPU（Neural Processing Unit）硬件的 XLA（Accelerated Linear Algebra）后端实现。本项目通过接入OpenXLA/XLA开源项目，将XLA开源生态与华为 CANN（Compute Architecture for Neural Networks）软件栈集成，对接JAX框架。JAX框架运行时可以直接加载 xla-npu，使得基于JAX框架开发的模型可以运行在昇腾 NPU 上，提供推理场景图编译加速能力。
- 功能：xla-npu 实现 OpenXLA PJRT 运行时接口，通过调用CANN软件栈中 Runtime 接口管理设备、Stream、Event、内存等，从而驱动 NPU 设备运行模型；同时对接CANN生态中 Graph Engine、AFIR等编译后端，实现图编译。JAX 框架通过加载 xla-npu 动态库so文件，实现JAX框架对接NPU设备，运行JAX脚本及网络。

欢迎社区成员提交技术讨论、设计提案、问题反馈或经验分享等作为会议议题。