ops-transformer/examples · gitcode_lijd/ops-transformer

cann-robotchore: replace gitcode.com links with atomgit.com

文件	最后提交记录	最后更新时间
add_example	fix product master2 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13074 merge master into master fix product master2 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> AI处理器对应的产品型号名称更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3258](https://gitcode.com/cann/ops-math/issues/3258) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ok ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> *.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!13074	2 天前
attention	fix product master2 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13074 merge master into master fix product master2 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> AI处理器对应的产品型号名称更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3258](https://gitcode.com/cann/ops-math/issues/3258) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ok ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> *.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!13074	2 天前
fast_kernel_launch_example	chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664	1 天前
mc2	chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664	1 天前
CMakeLists.txt	Pre-Commit 规范整改 — example experimental Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !1465 merge fix into master Pre-Commit 规范整改 — example experimental Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在`git commit`时自动运行代码检查和格式化工具。： \| Hook \| 功能 \| 说明 \| \|------\|------\|------\| \| clang-format \| C/C++ 代码格式化 \| 自动格式化代码，保持风格一致 \| \| OAT Check \| 开源合规检查 \| 检测许可证头、禁止二进制文件提交 \| 本PR对于example和experiment文件进行了pre-commit检查 See merge request: cann/ops-transformer!1465	2 个月前
README.md	新增 attention/flash_attn/L0_minimal 极简 FA 样例 Co-authored-by: miaofangzheng<miaofangzheng@huawei.com> # message auto-generated for no-merge-commit merge: !9338 merge flash_attn_l0_minimal into master 新增 attention/flash_attn/L0_minimal 极简 FA 样例 Created-by: miaofangzheng Commit-by: miaofangzheng Merged-by: cann-robot Description: ## 描述新增极简版 FlashAttention 样例 examples/attention/flash_attn/L0_minimal，同时删除原 examples/flash_attn_example。仅保留 op_kernel + torch_interface.cpp，无独立 Host Tiling，无 mask、无 combine，作为最小可读入门样例算子内部命名统一为 flash_attn_minimal（csrc 目录名 / CMake target / torch 注册名 / python 前端一致） examples/README.md 目录树与样例表登记新路径 ## 关联的Issue [#4005](https://gitcode.com/cann/ops-transformer/issues/4005) ## 测试 Ascend950DT 单卡实测：编译：cmake configure + build 通过，产出 ascend_ops/_C.abi3.so 用例：ascend_ops/csrc/flash_attn_minimal/test/test_fa.py 7 passed（6 个参数化 + 1 个 fixed）最大用例 b=1, n1=32, n2=1, sq=skv=8192, d=128：精度比对 PctRlt 99.87% Pass，Max-RelativeError 0.0078 ## 文档更新随目录调整同步 README.md / FA_IMPL.md，并更新 examples/README.md。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [x] ❓ 其他，请描述：example See merge request: cann/ops-transformer!9338	2 个月前

简介

说明：

关于AI Core的介绍请参见《Ascend C算子开发》中“概念原理和术语 > 硬件架构与数据处理原理”。

本项目提供了AI Core算子的开发和调用样例，请开发者根据实际情况参考对应实现。

目录说明

├── example
│   ├── add_example                # AddExample算子的目录名，一般小写下划线形式
│   │   ├── CMakeLists.txt         # 算子编译配置文件，保留原文件即可
│   │   ├── examples               # 算子使用示例
│   │   ├── op_graph               # 算子构图相关目录
│   │   ├── op_host                # 算子信息库、Tiling、InferShape相关实现
│   │   ├── op_kernel              # 算子kernel目录
│   │   └── op_kernel_aicpu        # 算子kernel_aicpu目录
│   ├── attention                  # attention类算子示例
│   │   └── flash_attn
│   │       └── L0_minimal         # FlashAttention极简样例，仅op_kernel，无Host Tiling
│   ├── mc2                        # 通算融合类算子示例
│   │   ├── all_gather_add         # AllGatherAdd算子的目录名，一般小写下划线形式
│   │   │   └── ...
│   ├── CMakeLists.txt             # 算子编译配置文件，保留原文件即可
│   └── README.md                  # 算子说明文档

算子开发样例

样例目录	样例介绍	算子开发	算子调用
add_example	实现两个张量相加功能的算子。	算子端到端开发过程参见AI Core算子开发指南。	调用样例参见README
mc2/all_gather_add	先进行AllGather集合通信，再执行逐元素相加。	算子端到端开发过程参见AI Core算子开发指南。	调用样例参见README
attention/flash_attn/L0_minimal	FlashAttention极简实现，无mask、无combine、无独立Host Tiling。	算子实现介绍参见FA_IMPL.md。	调用样例参见README