| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
Add OP GroupedMatmulActivationQuant kernel and tiling Co-authored-by: jayshu<shuhaojie@huawei.com> # message auto-generated for no-merge-commit merge: !8029 merge gmmactivationquant_jayshu into master Add OP GroupedMatmulActivationQuant kernel and tiling Created-by: jayshu Commit-by: jayshu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增算子 GroupedMatmulActivationQuant，支持分组矩阵乘后接激活函数（GELU-Tanh）及 MX 量化输出。 该算子基于 GroupedMatmul 扩展，在分组矩阵乘计算完成后，依次执行： 1. **激活函数**：GELU-Tanh 2. **量化**：将 FP32/BF16 中间结果量化为 FP8（E4M3FN 或 E5M2） 3. **输出**：量化后的数据 + FP8 E8M0 scale ### 主要特性 - **数据类型**：输入 x为 FP8 E5M2 或 FP8 E4M3FN，weight 为 FP8 E4M3FN，scale 为 FP8 E8M0 - **输出类型**：支持 FP8 E4M3FN / E5M2（通过 y_dtype attr 配置） - **分组模式**：仅支持 SPLIT_M（M 轴分组） - **Weight 格式**：强制 FRACTAL_NZ 格式 - **量化模式**：MX per-group 量化 - **舍入模式**：RINT - **Scale 算法**：支持 OCP / CUBLAS 两种算法（通过 scale_alg attr 配置） ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/3505 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 算子泛化+二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 这个PR不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!8029 | 1 个月前 | |
增加 GroupedMatmulActivationQuant UT test Co-authored-by: lirh<lironghui4@huawei.com> # message auto-generated for no-merge-commit merge: !8191 merge lirh into master 增加 GroupedMatmulActivationQuant UT test Created-by: lironghui4 Commit-by: lirh Merged-by: cann-robot Description: ## 描述 add GroupedMatmulActivationQuant UT test ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/3505 ## 测试 算子泛化+二级冒烟 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!8191 | 1 个月前 | |
增加 GroupedMatmulActivationQuant UT test Co-authored-by: lirh<lironghui4@huawei.com> # message auto-generated for no-merge-commit merge: !8191 merge lirh into master 增加 GroupedMatmulActivationQuant UT test Created-by: lironghui4 Commit-by: lirh Merged-by: cann-robot Description: ## 描述 add GroupedMatmulActivationQuant UT test ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/3505 ## 测试 算子泛化+二级冒烟 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!8191 | 1 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 |