| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix product master2 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13074 merge master into master fix product master2 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> AI处理器对应的产品型号名称更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3258](https://gitcode.com/cann/ops-math/issues/3258) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ok ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> *.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!13074 | 4 天前 | |
fix(attention): FlashAttn/FlashMLA/QuantFlashAttn 校验 LSE 空输出 Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !13059 merge fix/flash-attn-mla-softmax-lse-nullptr into master fix(attention): FlashAttn/FlashMLA/QuantFlashAttn 校验 LSE 空输出 Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 修复 master 分支 flash_attn、flash_mla_with_kvcache、quant_flash_attn 开启 LSE 输出但传入 softmaxLse=nullptr 时，API helper 将空指针继续传入 inner 的问题。现在各算子在内部 helper 返回 ACLNN_ERR_PARAM_NULLPTR（161001），GetWorkspaceSize 入口直接传播错误，并打印包含开关条件的错误信息。 - helper 返回 aclnnStatus，对空输出及占位 Tensor 创建失败进行检查。 - 关闭 LSE 时仍创建 {0} / FLOAT 占位 Tensor，数据指针设为 nullptr，避免引用局部变量地址。 - QuantFlashAttn 在旧版 opbase 不支持非连续输入而提前返回时，释放已经创建的空占位 Tensor，修复该错误路径的资源泄漏。 - 修改均在各算子自己的 op_api .cpp 内，最终差异共 3 个文件。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5554 本 PR 处理上述 3 个算子的接口问题。 ## 测试 - 使用 CANN 9.3.0 头文件及库编译 host API 源文件；运行回归时显式指定对应动态库路径。 - 临时 host 回归程序直接编译算子源文件、使用真实 ACL Tensor 接口，对 inner 打桩并注入分配失败，共 19 项通过。每个算子覆盖开启 LSE 且输出为空/有效、关闭 LSE 且输出为空/有效、占位 Tensor 创建失败、inner 错误后的占位 Tensor 释放；QuantFlashAttn 额外覆盖旧版 opbase 拒绝非连续输入后的释放。 - QuantFlashAttn 实际 GetWorkspaceSize 入口加载修复后的动态库，开启 LSE 且输出为空时返回 161001，workspace 和 executor 输出保持原值；其他算子的空输出入口验证亦已通过。 - 本次 staged 检查以及相对 upstream/master 的完整 PR 范围 pre-commit 检查通过，含 OAT 实际扫描全部 3 个文件。 - 同步目标 master 的 .clang-format（PointerAlignment: Left），使用 clang-format 18.1.8 完成 3 个 API 源文件的格式修复；暂存区及完整 PR 范围 pre-commit/OAT 重新通过。本次格式修复经忽略空白对比确认无逻辑变化，未重复运行 host 功能回归。 以上为 host API 验证；未执行 NPU kernel、完整正常输入精度/性能回归。非连续输入的旧版 opbase 拒绝路径通过模拟 TensorV2 符号缺失验证，未作为全部 opbase 版本兼容性验证。远端 CI 结果以 PR 页面为准。 ## 文档更新 无。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13059 | 4 天前 | |
QFA---MXFP8回合主线 Co-authored-by: wang-yingzhen-77<wangyingzhen@huawei.com> # message auto-generated for no-merge-commit merge: !13070 merge qfa-mxfp8-arch92-pr into master QFA---MXFP8回合主线 Created-by: wang-yingzhen-77 Commit-by: wang-yingzhen-77 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5707 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13070 | 4 天前 | |
QFA---MXFP8回合主线 Co-authored-by: wang-yingzhen-77<wangyingzhen@huawei.com> # message auto-generated for no-merge-commit merge: !13070 merge qfa-mxfp8-arch92-pr into master QFA---MXFP8回合主线 Created-by: wang-yingzhen-77 Commit-by: wang-yingzhen-77 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5707 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13070 | 4 天前 | |
fix(quant_flash_attn): 修正 N_kv 计算以支持 BSND 布局 Co-authored-by: yangxh<yangxinhao7@huawei.com> # message auto-generated for no-merge-commit merge: !13138 merge ttk into master fix(quant_flash_attn): 修正 N_kv 计算以支持 BSND 布局 Created-by: yangxh1203 Commit-by: yangxh Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修正 N_kv 计算以支持HIFP8 BSND 布局 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/5427 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13138 | 4 天前 | |
feat(qfa): experimental目录新增MxFP8 Softmax FP16低精方案 Co-authored-by: cardiac_index<wangjianhao12@huawei.com> # message auto-generated for no-merge-commit merge: !13174 merge master into master feat(qfa): experimental目录新增MxFP8 Softmax FP16低精方案 Created-by: cardiac_index Commit-by: cardiac_index Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> experimental目录下quant_flash_attn，新增MxFP8 Softmax FP16低精方案，包括host和kernel侧代码； torch接口放开quantMode=3的拦截 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue [#5731](https://gitcode.com/cann/ops-transformer/issues/5731) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 本地验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 更新了experimental目录下，quant_flash_attn的README.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13174 | 4 天前 | |
[QFA][Mxfp8] add _ for class membername Co-authored-by: shen_weiling<shenweiling@huawei.com> # message auto-generated for no-merge-commit merge: !9435 merge master into master [QFA][Mxfp8] add _ for class membername Created-by: shen_weiling Commit-by: shen_weiling Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9435 | 1 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 4 天前 | ||
| 4 天前 | ||
| 4 天前 | ||
| 4 天前 | ||
| 4 天前 | ||
| 4 天前 | ||
| 1 个月前 |