| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
Add npu_all_gather_base_mm testcase Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3339 merge allgather into master Add npu_all_gather_base_mm testcase Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: 本地验证通过：  See merge request: Ascend/op-plugin!3339 | 10 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
pta a5反合 Co-authored-by: yanhf<yanhaifeng5@huawei.com> # message auto-generated for no-merge-commit merge: !3568 merge master into master pta a5反合 Created-by: yanhf Commit-by: yanhf Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3568 | 9 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
修复npu_alltoallv_quant_gmm问题 Co-authored-by: libohao6<libohao3@huawei.com> # message auto-generated for no-merge-commit merge: !4395 merge master into master 修复npu_alltoallv_quant_gmm问题 Created-by: libohao6 Commit-by: libohao6 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [X] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 修复npu_alltoallv_quant_gmm问题 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 资料已变更，同步修改代码。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及。 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 功能ST测试已验证通过。 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [X] 代码注释完备，正确记录错误日志 - [X] 代码实现进行了返回值、空指针等校验 - [X] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [X] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4395 | 5 个月前 | |
| 1 年前 | ||
OP hash supports thread-level Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3681 merge atb2 into master OP hash supports thread-level Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: op仓的atb op复用采用线程级单例。 当前op仓的atb缓存设计为进程级别的单列，多线程场景存在op复用冲突，atb底层的setup和exector不支持相同的op在不同线程。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3681 | 8 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
OP hash supports thread-level Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3681 merge atb2 into master OP hash supports thread-level Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: op仓的atb op复用采用线程级单例。 当前op仓的atb缓存设计为进程级别的单列，多线程场景存在op复用冲突，atb底层的setup和exector不支持相同的op在不同线程。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3681 | 8 个月前 | |
OP hash supports thread-level Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3681 merge atb2 into master OP hash supports thread-level Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: op仓的atb op复用采用线程级单例。 当前op仓的atb缓存设计为进程级别的单列，多线程场景存在op复用冲突，atb底层的setup和exector不支持相同的op在不同线程。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3681 | 8 个月前 | |
| 1 年前 | ||
PA surpport aclgraph Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: merge atb into master PA surpport aclgraph Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: 1. ATB，C++接入方式下发方式新增workpspace支持外部传入，以支持aclgraph的update特性。 2. 新增特性使能atb pa接口，支持aclgraph **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3204 | 11 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
PA surpport aclgraph Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: merge atb into master PA surpport aclgraph Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: 1. ATB，C++接入方式下发方式新增workpspace支持外部传入，以支持aclgraph的update特性。 2. 新增特性使能atb pa接口，支持aclgraph **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3204 | 11 个月前 | |
Fix potential integer overflow issues in npu_paged_cache_load Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3413 merge bugfix into master Fix potential integer overflow issues in npu_paged_cache_load Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3413 | 10 个月前 | |
| 1 年前 | ||
OP hash supports thread-level Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3681 merge atb2 into master OP hash supports thread-level Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: op仓的atb op复用采用线程级单例。 当前op仓的atb缓存设计为进程级别的单列，多线程场景存在op复用冲突，atb底层的setup和exector不支持相同的op在不同线程。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3681 | 8 个月前 | |
OP hash supports thread-level Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: !3681 merge atb2 into master OP hash supports thread-level Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: op仓的atb op复用采用线程级单例。 当前op仓的atb缓存设计为进程级别的单列，多线程场景存在op复用冲突，atb底层的setup和exector不支持相同的op在不同线程。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3681 | 8 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
适配支持两类算子：ffn_worker_scheduler_/ffn_worker_scheduler、 attention_worker_scheduler_/attention_worker_scheduler Co-authored-by: panweicheng<panweicheng@huawei.com> # message auto-generated for no-merge-commit merge: !3397 merge master into master 适配支持两类算子：ffn_worker_scheduler_/ffn_worker_scheduler、 attention_worker_scheduler_/attention_worker_scheduler Created-by: pwc10490 Commit-by: panweicheng Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > /kind feature **What does this PR do / why do we need it**: 适配支持两类算子： torch_npu.attention_worker_scheduler torch_npu.attention_worker_scheduler_（inplace算子） torch_npu.ffn_worker_scheduler torch_npu.ffn_worker_scheduler_（inplace算子） **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3397 | 10 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
适配支持两类算子：ffn_worker_scheduler_/ffn_worker_scheduler、 attention_worker_scheduler_/attention_worker_scheduler Co-authored-by: panweicheng<panweicheng@huawei.com> # message auto-generated for no-merge-commit merge: !3397 merge master into master 适配支持两类算子：ffn_worker_scheduler_/ffn_worker_scheduler、 attention_worker_scheduler_/attention_worker_scheduler Created-by: pwc10490 Commit-by: panweicheng Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > /kind feature **What does this PR do / why do we need it**: 适配支持两类算子： torch_npu.attention_worker_scheduler torch_npu.attention_worker_scheduler_（inplace算子） torch_npu.ffn_worker_scheduler torch_npu.ffn_worker_scheduler_（inplace算子） **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3397 | 10 个月前 | |
| 1 年前 | ||
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 2 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
npu_mm_reduce_scatter_base support quant and comm_mode aiv Co-authored-by: wang-guangbin<wgb_strive@163.com> # message auto-generated for no-merge-commit merge: merge mm_rs into master npu_mm_reduce_scatter_base support quant and comm_mode aiv Created-by: wang-guangbin Commit-by: wang-guangbin Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: 本地验证通过  See merge request: Ascend/op-plugin!3194 | 11 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
mc2 dispatch&combine v2 add aclnnV4 for master Co-authored-by: yyoean<1114146082@qq.com> # message auto-generated for no-merge-commit merge: !3538 merge master into master mc2 dispatch&combine v2 add aclnnV4 for master Created-by: yyoean Commit-by: yyoean Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: https://gitcode.com/Ascend/op-plugin/issues/25 See merge request: Ascend/op-plugin!3538 | 9 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
mc2 dispatch&combine v2 add aclnnV4 for master Co-authored-by: yyoean<1114146082@qq.com> # message auto-generated for no-merge-commit merge: !3538 merge master into master mc2 dispatch&combine v2 add aclnnV4 for master Created-by: yyoean Commit-by: yyoean Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: https://gitcode.com/Ascend/op-plugin/issues/25 See merge request: Ascend/op-plugin!3538 | 9 个月前 | |
feat: 新增DC算子Setup/Teardown新接口 Co-authored-by: tongzy1242<tongzeyun@huawei.com> # message auto-generated for no-merge-commit merge: !4468 merge new_op_urma into master feat: 新增DC算子Setup/Teardown新接口 Created-by: tongzy1242 Commit-by: tongzy1242 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> Issue [#892](https://gitcode.com/cann/ops-transformer/issues/892) - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 具体实现包括：1）在YAML配置文件中注册算子并配置ACL接口；2）在Python端添加元函数，用于编译时的形状和数据类型推断；3）在C++端实现输出形状和数据类型（如FLOAT8_E8M0）的动态计算逻辑；4）在算子注册配置（JSON）中补充接口签名；5）新增了FakeTensor模式下的元数据测试和多进程分布式环境下的功能集成测试，以验证算子链路的正确性。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 本次修改在算子插件框架中新增了四个算子定义：npu_moe_distribute_dispatch_setup、npu_moe_distribute_dispatch_teardown、npu_moe_distribute_combine_setup和npu_moe_distribute_combine_teardown。 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 已本地自验证 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4468 | 5 个月前 | |
DispatchV2增加UT用例看护 Co-authored-by: weixin_49300047<lijianhua56@huawei.com> # message auto-generated for no-merge-commit merge: !4636 merge master into master DispatchV2增加UT用例看护 Created-by: weixin_49300047 Commit-by: weixin_49300047 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 增加对DispatchV2不同场景的UT用例看护 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 根据算子入参，共验证用例72条，精度通过   # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4636 | 5 个月前 | |
rename 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4108 merge master-re950 into master rename 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4108 | 7 个月前 | |
| 2 年前 | ||
【950】DSQ and ARNQ add attr&BNGTU and BNR support opapi&LN positive and negative operator performance optimization Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !3432 merge A5_back_master into master 【950】DSQ and ARNQ add attr&BNGTU and BNR support opapi&LN positive and negative operator performance optimization Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3432 | 9 个月前 | |
| 2 年前 | ||
| 1 年前 | ||
feat: add new api (add)rms_norm_dynamic_mx_quant Co-authored-by: liiu-qii<liuqi330@huawei.com> # message auto-generated for no-merge-commit merge: !4429 merge dyn_dev into master feat: add new api (add)rms_norm_dynamic_mx_quant Created-by: liiu-qii Commit-by: liiu-qii Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 新增AddRmsNormDynamicMxQuant和RmsNormDynamicMxQuant算子的torch_npu接口 # 【资料变更】 > 不涉及 # 【接口变更】 > 新增npu_add_rms_norm_dynamic_mx_quant和npu_rms_norm_dynamic_mx_quant接口 # 【功能验证】 > 新增两个接口的test ut用例 npu_add_rms_norm_dynamic_mx_quant:  npu_rms_norm_dynamic_mx_quant:  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4429 | 5 个月前 | |
Add handling logic for y2Out shape. Co-authored-by: 花无懿<liuxuehui4@huawei.com> # message auto-generated for no-merge-commit merge: !3760 merge master into master Add handling logic for y2Out shape. Created-by: huawuyi Commit-by: 花无懿 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3760 | 8 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
[feat]add AddRmsNormInplace Co-authored-by: cao-ren-lei<caorenlei@huawei.com> # message auto-generated for no-merge-commit merge: !3558 merge master into master [feat]add AddRmsNormInplace Created-by: caorenlei Commit-by: cao-ren-lei Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task >/kind feature **What does this PR do / why do we need it**: 增加aclnnInplaceAddRmsNorm接口对应的pta接口 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3558 | 8 个月前 | |
增加addmm cubeMathType=4获取能力 Co-authored-by: 吴宇飞<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !4519 merge master into master 增加addmm cubeMathType=4获取能力 Created-by: wuyufei Commit-by: 吴宇飞 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 增加 npu_preparation::get_cube_math_type(）获取 cubemathtype # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及，修改opsnn仓接口调用介绍资料 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 增加后能够获取cubemathtype=4，走进新模板并完成计算  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4519 | 5 个月前 | |
| 1 年前 | ||
add aaqmm api and fix bugs Co-authored-by: wangkechen<wangkechen3@huawei.com> # message auto-generated for no-merge-commit merge: !4150 merge aaqmm2 into master add aaqmm api and fix bugs Created-by: Kiana1216 Commit-by: wangkechen Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4150 | 7 个月前 | |
add aaqmm api and fix bugs Co-authored-by: wangkechen<wangkechen3@huawei.com> # message auto-generated for no-merge-commit merge: !4150 merge aaqmm2 into master add aaqmm api and fix bugs Created-by: Kiana1216 Commit-by: wangkechen Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4150 | 7 个月前 | |
modified AscendAntiQuantV2 to supported hifp8 and fp8 Co-authored-by: wang-siyang3<wangsiyang3@huawei.com> # message auto-generated for no-merge-commit merge: !4355 merge AscendAntiQuantV2 into master modified AscendAntiQuantV2 to supported hifp8 and fp8 Created-by: clwsy1 Commit-by: wang-siyang3 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 1、AscendAntiQuantV2算子新增支持hifp8和fp8类型，打通pta通路 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 1、新增hifp8和fp8类型，已新增类型说明 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 1、修改npu_anti_quant接口的src_dtype和dst_dtype参数类型为int，是兼容性变更 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 已自测通过 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4355 | 5 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
API 资料补齐 Co-authored-by: l00881990<lixinyu68@huawei.com> # message auto-generated for no-merge-commit merge: !4951 merge op-apply-rotary into master API 资料补齐 Created-by: l1919_snow Commit-by: l00881990 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 https://gitcode.com/Ascend/op-plugin/issues/87 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4951 | 3 个月前 | |
sink_tensor Co-authored-by: xiaonannjust<xiaonan12@huawei.com> # message auto-generated for no-merge-commit merge: !4399 merge sink_tensor into master sink_tensor Created-by: xiaonannjust Commit-by: xiaonannjust Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4399 | 5 个月前 | |
attention update support fp16 bf16 Co-authored-by: qiumingli<liqiuming4@huawei.com> # message auto-generated for no-merge-commit merge: !3636 merge master into master attention update support fp16 bf16 Created-by: qiumingli Commit-by: qiumingli Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3636 | 8 个月前 | |
Fixed failed testcases Co-authored-by: yuhaiyan<yuhaiyan8@huawei.com> # message auto-generated for no-merge-commit merge: !4140 merge master into master Fixed failed testcases Created-by: yuhaiyan Commit-by: yuhaiyan Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: 修复issue#1517 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4140 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
[bugfix][master]同步BSA算子适配aclnn参数校验 Co-authored-by: Sunshine_Youngster<saiyao@huawei.com> # message auto-generated for no-merge-commit merge: !4795 merge fix_bsa_docs_60422_master into master [bugfix][master]同步BSA算子适配aclnn参数校验 Created-by: Sunshine_Youngster Commit-by: Sunshine_Youngster Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [X] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） BSA算子aclnn收紧校验，修改传参确保为nullptr # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 正向用例：test/test_custom_ops/test_npu_block_sparse_attention.py  反向用例：test/test_custom_ops/test_npu_block_sparse_attention_backward.py  文档用例测试：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4795 | 4 个月前 | |
【feature】添加BlockSparseAttention反向接口 Co-authored-by: Sunshine_Youngster<saiyao@huawei.com> # message auto-generated for no-merge-commit merge: !4401 merge add_block_sparse_attention_backward into master 【feature】添加BlockSparseAttention反向接口 Created-by: Sunshine_Youngster Commit-by: Sunshine_Youngster Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [X] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 1. 添加 npu_block_sparse_attention_backward 接口，调用 aclnn 对应的接口，实现对“块稀疏注意力”的功能支持； 2. 前反向绑定； 3. 不对外呈现，因此不需要添加 md 文档，也不需要修改 _op_plugin_docs.py 。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 1. 反向UT： bash python test/test_custom_ops/test_npu_block_sparse_attention_backward.py  2. test_fake_tensor测试： bash python test/core_tests/test_fake_tensor.py TestNpuBlockSparseAttentionMeta  3. 正向UT： bash python test/test_custom_ops/test_npu_block_sparse_attention.py  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4401 | 5 个月前 | |
chunk_gated_delta_rule Co-authored-by: Nam_John<jiangnan59@huawei.com> # message auto-generated for no-merge-commit merge: !4796 merge master into master chunk_gated_delta_rule Created-by: Nam_John Commit-by: Nam_John Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 Chunked Gated Delta Rule(CGDR)是GDR的chunk版实现，它通过将输入序列切块，实现了一定的并行效果，在长上下文场景其计算效率相对Recurrent Gated Delta Rule更高，适用于prefill阶段。 # 【资料变更】 不涉及 # 【接口变更】 新增npu_chunk_gated_delta_rule算子的接口 # 【功能验证】 单算子验证，调用通过  调用开发者测试脚本，验证通过  ATK测试已通过  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4796 | 4 个月前 | |
add npu_clipped_swiglu Co-authored-by: jzj007<jiangzhijie9@huawei.com> # message auto-generated for no-merge-commit merge: !3487 merge cs_without_md into master add npu_clipped_swiglu Created-by: jzj007 Commit-by: jzj007 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: add npu_clipped_swiglu **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3487 | 9 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 1 年前 | ||
| 2 年前 | ||
| 2 年前 | ||
[Feature][Master]add npu_dense_lightning_indexer_grad_kl_loss Co-authored-by: htchu<chuhaotian2@huawei.com> # message auto-generated for no-merge-commit merge: !4068 merge master into master [Feature][Master]add npu_dense_lightning_indexer_grad_kl_loss Created-by: htchu Commit-by: htchu Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** /kind feature **What does this PR do / why do we need it**: add support for npu_dense_lightning_indexer_grad_kl_loss and associated test cases  **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4068 | 7 个月前 | |
[Feature][Master] Support npu_dense_lightning_indexer_softmax_lse API Co-authored-by: chengpeng25<chengpeng9@huawei.com> # message auto-generated for no-merge-commit merge: !4059 merge dev_das_master into master [Feature][Master] Support npu_dense_lightning_indexer_softmax_lse API Created-by: chengpeng25 Commit-by: chengpeng25 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: Support DSA(dense) API: dense_indexer_lightning_softmax_lse. test pass:  **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4059 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 2 年前 | ||
新增npu_dual_level_quant_matmul Co-authored-by: chaoying-zhang<zhangchaoying@huawei.com> # message auto-generated for no-merge-commit merge: !4158 merge dlqbmm_a4w4 into master 新增npu_dual_level_quant_matmul Created-by: chaoying-zhang Commit-by: chaoying-zhang Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task /kind feature **What does this PR do / why do we need it**: 新增npu_dual_level_quant_matmul算子，实现MXFP4二级量化，补偿精度 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4158 | 7 个月前 | |
【feat】add new op DynamicBlockMxQuant Co-authored-by: yin-peng-hw<yinpeng37@huawei.com> # message auto-generated for no-merge-commit merge: !4330 merge DynamicBlockMxQuant into master 【feat】add new op DynamicBlockMxQuant Created-by: yin-peng Commit-by: yin-peng-hw Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 新增支持DynamicBlockMxQuant算子，验证PTA通路 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 已新增UT测试用例看护，自测通过 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4330 | 5 个月前 | |
| 11 个月前 | ||
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
[feat] DynamicMxQuantWithDualAxis add dst_type_max parameter Co-authored-by: peng_yq<pengyongqiang5@huawei.com> # message auto-generated for no-merge-commit merge: !4620 merge DynamicMxQuantWithDualAxis2604 into master [feat] DynamicMxQuantWithDualAxis add dst_type_max parameter Created-by: pyq17870581669 Commit-by: peng_yq Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 npu_dynamic_mx_quant_with_dual_axis 接口新增dst_type_max参数，支持设置量化结果的范围。 # 【资料变更】 涉及，API资料需要修改，增加可选属性dst_type_max。 # 【接口变更】 涉及，接口新增可选属性dst_type_max。 # 【功能验证】 ## 正确调用新接口，且新版本CANN包接口的结果  ## 正确调用新接口，但是使用的旧版本CANN包结果，提醒用户使用新版本CANN包  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4620 | 4 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
Fixed failed testcases Co-authored-by: yuhaiyan<yuhaiyan8@huawei.com> # message auto-generated for no-merge-commit merge: !4140 merge master into master Fixed failed testcases Created-by: yuhaiyan Commit-by: yuhaiyan Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: 修复issue#1517 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4140 | 7 个月前 | |
[feat] sperate dropout_mask with fa Co-authored-by: chenshuai<chenshuai81@huawei.com> # message auto-generated for no-merge-commit merge: !4377 merge feat_32 into master [feat] sperate dropout_mask with fa Created-by: culechan Commit-by: chenshuai Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4377 | 6 个月前 | |
support npu_fusion_attention_v3 with fake register Co-authored-by: wangchao430<wangchao430@huawei.com> # message auto-generated for no-merge-commit merge: !4123 merge master_fav3cpu into master support npu_fusion_attention_v3 with fake register Created-by: wangchao430 Commit-by: wangchao430 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: 新增npu_fusion_attention_v3算子，支持入图和aclgraph（不带update）。与npu_fusion_attention变更点主要包含： 1. npu_fusion_attention_v3适配层入口处，prefix参数转为symint数组，actual_seq_qlen、actual_seq_kvlen参数转为cpu Tensor（内容为一维int数组），其中actual_seq_qlen、actual_seq_kvlen尽可能避免发生内存拷贝。 2. 返回值中的seed和offset改为tensor，numel删除（在反向中可以通过重计算得到）。在aclgraph场景下，seed和offset为npu Tensor，直接用于dropout计算，否则为cpu Tensor。由于算子get_max_workspace能力暂未支持，update逻辑暂未适配，aclgraph仅支持不需要actual_seq_qlen、actual_seq_kvlen的BNSD布局。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4123 | 7 个月前 | |
[feat]npu_fusion_attention_v2 adapt for fav5 Co-authored-by: zqwenn<zhangqiongwen@huawei.com> # message auto-generated for no-merge-commit merge: !3526 merge master_fav5_adpt into master [feat]npu_fusion_attention_v2 adapt for fav5 Created-by: zqwenn Commit-by: zqwenn Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: npu_fusion_attention_v2新增softmax_layout和sink入参 新增场景测试用例下一个pr提交 See merge request: Ascend/op-plugin!3526 | 9 个月前 | |
[feat] sperate dropout_mask with fa Co-authored-by: chenshuai<chenshuai81@huawei.com> # message auto-generated for no-merge-commit merge: !4377 merge feat_32 into master [feat] sperate dropout_mask with fa Created-by: culechan Commit-by: chenshuai Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4377 | 6 个月前 | |
add npu_fused_causal_conv1d Co-authored-by: jie<2642686479@qq.com> # message auto-generated for no-merge-commit merge: !4559 merge npu_fused_causal_conv1d into master add npu_fused_causal_conv1d Created-by: jzj007 Commit-by: jie Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 新增FusedCausalConv1d算子，新增npu_fused_causal_conv1d接口 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 新增算子 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 新增算子 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 本地自验证：根据算子信息库，从支持的数据类型以及输入数据维度两个角度设计测试用例测试接口功能 **run_mode=0** - 用例一： 单算子 | run_mode=0 | dtype=bfloat16 | batch=32 | cu_seq_len=806 | dim=2048 | K=3 | pad_slot_id=-1 | residual_connection=1 | random test 9 输入shape：x： torch.Size([806, 2048]) weight： torch.Size([3, 2048]) conv_states： torch.Size([64, 2, 2048]) query_start_loc： torch.Size([33]) cache_indices： torch.Size([32]) initial_state_mode： torch.Size([32]) [y] shape=[851968], diff=0/851968, ratio=0.000000, max_abs_err=0.000000 [conv_states] shape=[64, 2, 2048], diff=0/262144, ratio=0.000000, max_abs_err=0.000000 Result: PASS - 用例二： 单算子 | run_mode=0 | dtype=float16 | batch=8 | cu_seq_len=752 | dim=128 | K=3 | pad_slot_id=-1 | residual_connection=1 | random test 10 输入shape：x： torch.Size([752, 128]) weight： torch.Size([3, 128]) conv_states： torch.Size([16, 2, 128]) query_start_loc： torch.Size([9]) cache_indices： torch.Size([8]) initial_state_mode： torch.Size([8]) [y] shape=[60160], diff=0/60160, ratio=0.000000, max_abs_err=0.000000 [conv_states] shape=[16, 2, 128], diff=0/4096, ratio=0.000000, max_abs_err=0.000000 Result: PASS **run_mode=1** - 用例三 单算子 | run_mode=1 | dtype=float16 | batch=256 | m=4 | cu_seq_len=1035 | dim=768 | K=3 | pad_slot_id=-1 | residual_connection=1 | random test 1 输入shape：x： torch.Size([1035, 768]) weight： torch.Size([3, 768]) conv_states： torch.Size([257, 6, 768]) cache_indices： torch.Size([256]) num_accepted_tokens： torch.Size([256]) [y] shape=[794880], diff=0/794880, ratio=0.000000, max_abs_err=0.000000 [conv_states] shape=[257, 6, 768], diff=0/1184256, ratio=0.000000, max_abs_err=0.000000 Result: PASS - 用例四 单算子 | dtype=float16 | batch=16 | m=0 | dim=2048 | K=3 | pad_slot_id=-1 | residual_connection=1 | random test 2 输入shape：x： torch.Size([16, 1, 2048]) weight： torch.Size([3, 2048]) conv_states： torch.Size([17, 2, 2048]) cache_indices： torch.Size([16]) num_accepted_tokens： torch.Size([16]) [y] shape=[32768], diff=0/32768, ratio=0.000000, max_abs_err=0.000000 [conv_states] shape=[17, 2, 2048], diff=0/69632, ratio=0.000000, max_abs_err=0.000000 Result: PASS - 用例五 单算子 | run_mode=1 | dtype=bfloat16 | batch=8 | m=3 | cu_seq_len=24 | dim=512 | K=3 | pad_slot_id=-1 | residual_connection=0 | random test 2 输入shape：x： torch.Size([24, 512]) weight： torch.Size([3, 512]) conv_states： torch.Size([9, 5, 512]) cache_indices： torch.Size([8]) num_accepted_tokens： torch.Size([8]) [y] shape=[12288], diff=0/12288, ratio=0.000000, max_abs_err=0.000000 [conv_states] shape=[9, 5, 512], diff=0/23040, ratio=0.000000, max_abs_err=0.000000 Result: PASS - 用例六 单算子 | run_mode=1 | dtype=float16 | batch=8 | m=3 | cu_seq_len=24 | dim=512 | K=3 | pad_slot_id=-1 | residual_connection=0 | random test 2 输入shape：x： torch.Size([24, 512]) weight： torch.Size([3, 512]) conv_states： torch.Size([9, 5, 512]) cache_indices： torch.Size([8]) num_accepted_tokens： torch.Size([8]) [y] shape=[12288], diff=0/12288, ratio=0.000000, max_abs_err=0.000000 [conv_states] shape=[9, 5, 512], diff=0/23040, ratio=0.000000, max_abs_err=0.000000 Result: PASS # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4559 | 5 个月前 | |
Modify the backward ut passes of npu_fused_floyd_attention. Co-authored-by: shi-jiaxin9<shijiaxin10@h-partners.com> # message auto-generated for no-merge-commit merge: !3885 merge master into master Modify the backward ut passes of npu_fused_floyd_attention. Created-by: shi-jiaxin9 Commit-by: shi-jiaxin9 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bugModify the backward ut passes of npu_fused_floyd_attention. **What does this PR do / why do we need it**: Modify the backward ut passes of npu_fused_floyd_attention. **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3885 | 8 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
support npu_fused_infer_attention_score_v2 tiling update in NPUGraph Co-authored-by: fengye<vinsmoke.feng@huawei.com> # message auto-generated for no-merge-commit merge: !3924 merge master into master support npu_fused_infer_attention_score_v2 tiling update in NPUGraph Created-by: fengye0903 Commit-by: fengye Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: 用例执行结果 #@unittest.skip( # "Skipping due to outdated CANN version; please update CANN to the latest version and remove this skip") #@SupportedDevices(['Ascend910B']) def test_npu_fused_infer_attention_score_v2_ifa_return_lse_return_softmax_lse_true_with_workspace(self, device="npu"): query = torch.randn(1, 32, 1, 128, dtype=torch.float16).npu() key = torch.randn(1, 32, 2048, 128, dtype=torch.float16).npu() value = torch.randn(1, 32, 2048, 128, dtype=torch.float16).npu() head_dim = 128 return_softmax_lse = True supported_output, lse_out = self.supported_op_exec(query, key, value, head_dim, 1, 32, 1, return_softmax_lse) custom_output = self.custom_op_exec_with_workspace(query, key, value, head_dim, True) attention_output = custom_output[0] softmaxlse_output = custom_output[1] if __name__ == "__main__": run_tests() [root@devserver-hps-feb34b1c-00033 f00941739]# python ./op-plugin/test/test_custom_ops/test_npu_fused_infer_attention_score_v2_with_workspace.py ss. ---------------------------------------------------------------------- Ran 3 tests in 2.006s OK (skipped=2) 整网测试结果： [root@devserver-hps-feb34b1c-00033 omni-npu-2]# curl http://7.150.9.163:8001/v1/completions -H "Content-Type: application/json" -d '{"prompt":"请介绍一下苏州，不少于100字，请用中文回 复","model":"Pangu72B","temperature":0.6,"max_tokens":120}' {"id":"cmpl-94a127a570be5f14","object":"text_completion","created":1767012795,"model":"Pangu72B","choices":[{"index":0,"text":"。\n苏州，位于中国江苏省东南部，是一座拥有2500多年历史的 古城，以其独特的园林艺术和丰富的文化遗产而闻名。苏州园林是中国古典园林的代表，被誉为“园林之城”，其中拙政园、留园等都是著名的景点，展现了精巧的设计和深远的文化内涵。此外，苏州还以丝绸 制造业著称，有“丝绸之府”的美誉。苏州的评弹、昆曲等传统艺术形式也体现了这座城市深厚的文化底蕴。今天的苏州，不仅保留了丰富的历史遗产，还是一个现代化发展的城市，经济繁荣，科技和教育水平 先进。","logprobs":null,"finish_reason":"stop","stop_reason":45892,"token_ids":null,"prompt_logprobs":null,"prompt_token_ids":null}],"service_tier":null,"system_fingerprint":null,"us age":{"prompt_tokens":12,"total_tokens":131,"completion_tokens":119,"prompt_tokens_details":null},"kv_transfer_params":null}[root@devserver-hps-feb34b1c-00033 omni-npu-2]# [root@devserver-hps-feb34b1c-00033 omni-npu-2]# See merge request: Ascend/op-plugin!3924 | 8 个月前 | |
add _npu_fused_infer_attention_score_infer_output Co-authored-by: yanpengquan<yanpengquan@huawei.com> # message auto-generated for no-merge-commit merge: !3891 merge master into master add _npu_fused_infer_attention_score_infer_output Created-by: yanpengquan Commit-by: yanpengquan Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3891 | 8 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
Added support for the npu_gelu_mul operator. Co-authored-by: shi-jiaxin9<shijiaxin10@h-partners.com> # message auto-generated for no-merge-commit merge: !3418 merge master into master Added support for the npu_gelu_mul operator. Created-by: shi-jiaxin9 Commit-by: shi-jiaxin9 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: Added support for the npu_gelu_mul operator. **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3418 | 9 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
为npu_gemma_rms_norm算子提供meta注册 Co-authored-by: panweicheng<panweicheng@huawei.com> # message auto-generated for no-merge-commit merge: !4014 merge master into master 为npu_gemma_rms_norm算子提供meta注册 Created-by: pwc10490 Commit-by: panweicheng Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4014 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
GroupedDynamicMxQuant add scale_alg Co-authored-by: yeeyanghsia<xiayiyang@huawei.com> # message auto-generated for no-merge-commit merge: !4628 merge GroupedDynamicMxQuant0401 into master GroupedDynamicMxQuant add scale_alg Created-by: yeeyanghsia Commit-by: yeeyanghsia Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 grouped_dynamic_mx_quant新增参数scale_alg，支持scale不同的计算方法选择。 # 【资料变更】 不涉及 # 【接口变更】 涉及，新增参数scale_alg # 【功能验证】  # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4628 | 4 个月前 | |
add npu_gmm test case Co-authored-by: XianglongZeng<zengxianglong1@huawei.com> # message auto-generated for no-merge-commit merge: !4860 merge myop into master add npu_gmm test case Created-by: probiotics_53 Commit-by: XianglongZeng Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 ## 自定义算子测试（已有） - test_npu_grouped_matmul_6：K切分 单单单 fp16，split_item=3，group_type=2 ## 异常场景看护用例（新增） | 测试文件 | 用例名称 | 测试内容 | |---|---|---| | test/test_custom_ops/test_npu_grouped_matmul.py | test_npu_grouped_matmul_invalid_group_type | group_type=1/3/100 应抛出 The group type must be 错误 | # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】   # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4860 | 4 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
[feat] gmmfr support mxA8W4 Co-authored-by: zhangquanxin<zhangquanxin7@h-partners.com> # message auto-generated for no-merge-commit merge: !4708 merge gmmfr_support_a8w4_mx into master [feat] gmmfr support mxA8W4 Created-by: zhangquanxin Commit-by: zhangquanxin Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 weight字段支持的NZ格式新增NZ_C0_16格式。 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 需求门槛用例验证 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4708 | 4 个月前 | |
| 1 年前 | ||
[fix] npu_grouped_matmul_swiglu_quant_v2 补充dequant_dtype UT Co-authored-by: hyhhh14<huangyuehua6@huawei.com> # message auto-generated for no-merge-commit merge: !4676 merge 0409UTmaster into master [fix] npu_grouped_matmul_swiglu_quant_v2 补充dequant_dtype UT Created-by: hyhhh14 Commit-by: hyhhh14 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [x] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 前述修改dequant_dtype参数的校验范围与平台，此PR补充UT。 在现有测试类 TestNpuGroupedMatmulSwigluQuant 中新增了3个测试方法。 test_npu_grouped_matmul_swiglu_quant_v2_dequant_dtype_valid_mx 验证mx量化场景所有合法的 dequant_dtype 值，确保算子能正常执行并返回正确结果。 test_npu_grouped_matmul_swiglu_quant_v2_dequant_dtype_valid_pertoken 验证pertoken量化场景所有合法的 dequant_dtype 值，确保算子能正常执行并返回正确结果。 test_npu_grouped_matmul_swiglu_quant_v2_dequant_dtype_invalid 方法验证当传入非法数据类型时，算子能按预期抛出 RuntimeError 异常。 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4676 | 5 个月前 | |
feat: add npu_indexing opapi adapt Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !4243 merge op-indexing into master feat: add npu_indexing opapi adapt Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > (如有)请关联需求文档/issue链接 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） - npu_indexing 算子支持 opapi ，调用 aclnnStridedSlice # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 - 新增 UT test/test_custom_ops/test_npu_indexing.py  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4243 | 6 个月前 | |
add dst_type_max for npu_kronecker_quant Co-authored-by: fbbccc<fangbochen@huawei.com> # message auto-generated for no-merge-commit merge: !4771 merge FQ into master add dst_type_max for npu_kronecker_quant Created-by: fbbccc Commit-by: fbbccc Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 为 flatquant 算子新增一个可选的 dst_type_max 参数。该参数允许用户在量化过程中自定义目标数据类型的最大值，从而提供更灵活的量化范围控制能力，以满足不同精度和范围需求的量化场景。 修改了 op_plugin_functions.yaml 配置文件中 npu_kronecker_quant 算子的函数签名，新增了可选的浮点型参数 float? dst_type_max=None。在算子实现内部，该参数被提取并赋予默认值后，传递给底层的NPU算子 aclnnFlatQuant，以支持在量化计算中使用用户指定的最大值。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 为 flatquant 算子新增一个可选的 dst_type_max 参数，新增了可选的浮点型参数 float? dst_type_max=None。 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 已本地验证通过   # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4771 | 4 个月前 | |
update qsfa test Co-authored-by: number-2-bo-bo<jinying22@huawei.com> # message auto-generated for no-merge-commit merge: !4705 merge qsfa_test into master update qsfa test Created-by: jinyingbo Commit-by: number-2-bo-bo Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 修改qsfa支持hifloat8数据类型的ut # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 本地验证通过  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4705 | 4 个月前 | |
KvQuantSparseFlashAttentionPioneer support sink Co-authored-by: wangyuanhe1<wangyuanhe1@huawei.com> # message auto-generated for no-merge-commit merge: !4416 merge master into master KvQuantSparseFlashAttentionPioneer support sink Created-by: wangyuanhe1 Commit-by: wangyuanhe1 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 新增KvQuantSparseFlashAttentionPioneer算子，由KvQuantSparseFlashAttention算子基础上增加链各个可选参数key_sink，value_sink # 【资料变更】 新增算子 # 【接口变更】 新增算子 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 本地自验证  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4416 | 5 个月前 | |
修改格式 Co-authored-by: 15084323657<xulin91@huawei.com> # message auto-generated for no-merge-commit merge: !3457 merge kv_pr_v2 into master 修改格式 Created-by: Will_09 Commit-by: 15084323657 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> 算子新增v2功能实现： kv_rms_norm_rope_cache_支持kv分离（新增可选输入tensor v）和ROPE(RMS(Dk))计算 tiling,kernel侧，增加非对称量化和Norm下量化功能。 实现输入kv N维度扩展 **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3457 | 9 个月前 | |
| 2 年前 | ||
LI\QLI\SFA\QSFA PTA适配 Co-authored-by: zzzyh22<zhangyaohui22@huawei.com> # message auto-generated for no-merge-commit merge: !3425 merge master into master LI\QLI\SFA\QSFA PTA适配 Created-by: zzzyh22 Commit-by: zzzyh22 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3425 | 9 个月前 | |
fix deterministic in LIG Co-authored-by: DaiFu<daifu2@huawei.com> # message auto-generated for no-merge-commit merge: !4342 merge 2603dsa into master fix deterministic in LIG Created-by: daifu1234567 Commit-by: DaiFu Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） LIG中确定性计算参数修改为从context中获取 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 已补充ut，精度问题算子侧定位中  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4342 | 6 个月前 | |
add npu_masked_causal_conv1d and backward Co-authored-by: jzj007<jiangzhijie9@huawei.com> # message auto-generated for no-merge-commit merge: !4686 merge masked_causal_conv1d into master add npu_masked_causal_conv1d and backward Created-by: jzj007 Commit-by: jzj007 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 新增算子MaskedCausalConv1d和MaskedCausalConv1dBackward 新增正向接口npu_masked_causal_conv1d和反向接口npu_masked_causal_conv1d_backward # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 新增算子 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 本地自验证：根据算子信息库，从支持的数据类型设计测试用例测试接口功能 **正向接口npu_masked_causal_conv1d** [npu_masked_causal_conv1d] 单算子 | dtype=float16 | S=689 B=707 H=5184 W=3 mask=no | random 1 [output] shape=[689, 707, 5184] dtype=torch.float16 diff=0/2525245632 ratio=0.000000 max_abs_err=0.000000 PASS Result: PASS [npu_masked_causal_conv1d] 单算子 | dtype=bfloat16 | S=3625 B=60 H=2112 W=3 mask=no | random 3 [output] shape=[3625, 60, 2112] dtype=torch.bfloat16 diff=0/459360000 ratio=0.000000 max_abs_err=0.000000 PASS Result: PASS **反向接口npu_masked_causal_conv1d** [npu_masked_causal_conv1d_backward] 单算子 | dtype=bfloat16 | S=6731 B=20 H=6528 W=3 mask=yes range=(-3.0, 3.0) | random 4 [grad_input] shape=[6731, 20, 6528] dtype=torch.bfloat16 diff=0/878799360 ratio=0.000000 max_abs_err=0.000000 PASS [grad_weight] shape=[3, 6528] dtype=torch.bfloat16 diff=2/19584 ratio=0.000102 max_abs_err=1.000000 PASS Result: PASS [npu_masked_causal_conv1d_backward] 单算子 | dtype=float16 | S=13139 B=29 H=6400 W=3 mask=yes range=(-1.0, 1.0) | random 1 [grad_input] shape=[13139, 29, 6400] dtype=torch.float16 diff=0/2438598400 ratio=0.000000 max_abs_err=0.000000 PASS [grad_weight] shape=[3, 6400] dtype=torch.float16 diff=0/19200 ratio=0.000000 max_abs_err=0.250000 PASS Result: PASS # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4686 | 4 个月前 | |
add npu_masked_causal_conv1d and backward Co-authored-by: jzj007<jiangzhijie9@huawei.com> # message auto-generated for no-merge-commit merge: !4686 merge masked_causal_conv1d into master add npu_masked_causal_conv1d and backward Created-by: jzj007 Commit-by: jzj007 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 新增算子MaskedCausalConv1d和MaskedCausalConv1dBackward 新增正向接口npu_masked_causal_conv1d和反向接口npu_masked_causal_conv1d_backward # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 新增算子 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 本地自验证：根据算子信息库，从支持的数据类型设计测试用例测试接口功能 **正向接口npu_masked_causal_conv1d** [npu_masked_causal_conv1d] 单算子 | dtype=float16 | S=689 B=707 H=5184 W=3 mask=no | random 1 [output] shape=[689, 707, 5184] dtype=torch.float16 diff=0/2525245632 ratio=0.000000 max_abs_err=0.000000 PASS Result: PASS [npu_masked_causal_conv1d] 单算子 | dtype=bfloat16 | S=3625 B=60 H=2112 W=3 mask=no | random 3 [output] shape=[3625, 60, 2112] dtype=torch.bfloat16 diff=0/459360000 ratio=0.000000 max_abs_err=0.000000 PASS Result: PASS **反向接口npu_masked_causal_conv1d** [npu_masked_causal_conv1d_backward] 单算子 | dtype=bfloat16 | S=6731 B=20 H=6528 W=3 mask=yes range=(-3.0, 3.0) | random 4 [grad_input] shape=[6731, 20, 6528] dtype=torch.bfloat16 diff=0/878799360 ratio=0.000000 max_abs_err=0.000000 PASS [grad_weight] shape=[3, 6528] dtype=torch.bfloat16 diff=2/19584 ratio=0.000102 max_abs_err=1.000000 PASS Result: PASS [npu_masked_causal_conv1d_backward] 单算子 | dtype=float16 | S=13139 B=29 H=6400 W=3 mask=yes range=(-1.0, 1.0) | random 1 [grad_input] shape=[13139, 29, 6400] dtype=torch.float16 diff=0/2438598400 ratio=0.000000 max_abs_err=0.000000 PASS [grad_weight] shape=[3, 6400] dtype=torch.float16 diff=0/19200 ratio=0.000000 max_abs_err=0.250000 PASS Result: PASS # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4686 | 4 个月前 | |
release multi-device scenario and add the hcom length check Co-authored-by: wangkechen<wangkechen3@huawei.com> # message auto-generated for no-merge-commit merge: !4262 merge worldsize into master release multi-device scenario and add the hcom length check Created-by: Kiana1216 Commit-by: wangkechen Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> matmulalltoall和alltoallmatmul穿刺时默认2卡，导致多卡场景下静态图infershape不对应。 - [ ] 需求 - [x] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 在_meta_registrations注册接口处修改。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 本地出包验证，可以获取实际传入的worldsize。   # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4262 | 6 个月前 | |
【feature】添加npu_matmul_compress_dequant pta接口 Co-authored-by: hellokitty911<lizhixi2@huawei.com> # message auto-generated for no-merge-commit merge: !4372 merge _matmul_compress_dequant into master 【feature】添加npu_matmul_compress_dequant pta接口 Created-by: hellokitty911 Commit-by: hellokitty911 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 offsetW 当前仅支持空指针传入 即：调用时不能传有效的 Tensor，只能传 None/空。 offsetX 当前仅支持 0 即：只能取 0，其它值不支持。 compressInfo 数组固定为：{8, 8, k, n, 1} k：由 x1 的第 2 维（即 x1.size(1)）决定 n：由 scale 的第 2 维（即 scale.size(1)）决定 输出形状 输出 Tensor 形状为 [M, N] M：x1 的第 1 维（即 x1.size(0)） N：bias 的第 2 维（即 bias.size(1)） 输出格式与数据类型 格式：ND（对应 ACL_FORMAT_ND） 数据类型：DT_FLOAT16 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 涉及，添加npu_matmul_compress_dequant 接口的说明文档。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4372 | 6 个月前 | |
[feat] Support MhcPost Co-authored-by: warming<wangming176@huawei.com> # message auto-generated for no-merge-commit merge: !4281 merge master into master [feat] Support MhcPost Created-by: wsunmoon Commit-by: warming Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 新增MhcPost算子torch_npu接口 # 【资料变更】 不涉及 # 【接口变更】 新增npu_mhc_post接口 # 【功能验证】 根据算子信息库，从支持的数据类型以及输入数据维度两个角度设计测试用例测试接口功能 **测试用例：**  **测试结果：** **MhcPost_fp16_32:** True get npu number. Number of NPUs: 1 输入x的dtype为: torch.float16 输入x的dim为: 3 [W309 21:06:35.525150586 ToKernelNpu.cpp:41] Warning: Device do not support double dtype now, dtype cast replace with float. (function operator()) 输出y为: tensor([[[1.7012, 1.4678, 1.6309, ..., 1.9941, 2.4316, 1.8496], [0.8115, 0.7324, 0.7266, ..., 0.8149, 0.9316, 0.6660], [1.3203, 1.2227, 0.7705, ..., 1.1621, 1.6787, 1.3877], [1.0049, 0.9873, 0.5781, ..., 0.6396, 1.2266, 0.9902]]], device='npu:0', dtype=torch.float16) 输出y的shape为: torch.Size([1, 4, 512]) **MhcPost_bf16_43：** True get npu number. Number of NPUs: 1 输入x的dtype为: torch.bfloat16 输入x的dim为: 4 [W309 20:37:52.760783625 ToKernelNpu.cpp:41] Warning: Device do not support double dtype now, dtype cast replace with float. (function operator()) 输出y为: tensor([[[[2.0000, 1.5156, 0.8242, ..., 2.0312, 1.8203, 1.4141], [1.2891, 0.7578, 0.7578, ..., 1.7734, 1.4844, 1.1328], [0.8398, 0.6445, 0.3711, ..., 0.8203, 0.6992, 0.5234], [1.4062, 1.1094, 0.6289, ..., 1.7266, 1.4609, 1.3828]]]], device='npu:0', dtype=torch.bfloat16) 输出y的shape为: torch.Size([1, 1, 4, 512]) # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4281 | 6 个月前 | |
[feat] add npu_mhc_post_backward Co-authored-by: fishing_artist<liuhuansheng1@h-partners.com> # message auto-generated for no-merge-commit merge: !4844 merge master into master [feat] add npu_mhc_post_backward Created-by: fishing_artist Commit-by: fishing_artist Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 新增MhcPostBackward算子torch_npu接口 # 【资料变更】 新增MhcPostBackward算子文档 # 【接口变更】 新增npu_mhc_post_backward接口 # 【功能验证】 ut  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4844 | 4 个月前 | |
[PLZ] update PTA adaptation for mHC Prefill and Decode mode... Co-authored-by: LAIM321<laiming2@huawei.com> # message auto-generated for no-merge-commit merge: !4497 merge OpPlugin-mHC into master [PLZ] update PTA adaptation for mHC Prefill and Decode mode... Created-by: LAIM321 Commit-by: LAIM321 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 针对流形约束超连接架构(mHC)模块的需求，新增npu_mhc_pre算子的接口。 # 【资料变更】 不涉及 # 【接口变更】 新增npu_mhc_pre算子的接口 # 【功能验证】 1. 单算子模式功能测试： 采用典型Shape组合覆盖不同计算场景，包括：T=64, n=4, D=2560；T=256, n=8, D=1280；T=1024, n=8, D=2560；T=4096, n=4, D=5120。 同时，通过切换out_flag(0/1)匹配Decode、Prefill的推理场景需求。 测试执行示例：： ============================================== Case 1, Shape: (T=1024, n=8, D=2560), out_flag=0 ============================================== Generating golden output... Generating custom operator output... Comparing outputs... ===== Compare h_in ===== error ratio: 0.0000% tolerance: 0.0078125 ===== Compare h_post ===== error ratio: 0.0000% tolerance: 0.001 ===== Compare h_res ===== error ratio: 0.0000% tolerance: 0.001 Case result: PASS **测试用例均通过验证。** 2. AclGraph模式功能测试： 同单算子模式功能测试，采用典型Shape组合覆盖不同计算场景。提交附件中已给出测试案例通过截图。 3. Aclnn精度测试： 由于不同硬件上算子实现的差异，同样的算子用例在不同的硬件上运行，结果无法做到完全一致。为了确保下游模型训练与推理业务的数值正确性，采用**昇腾算子精度标准2.1**作为精度标准，其提供包含精度分级、测试输入规则、算子执行方案及输出结果比对方法供开发者衡量算子精度。 链接：https://wiki.huawei.com/domains/68949/wiki/232736/WIKI202505306994678?title=4-5-2-%E5%A4%8D%E6%A3%80%E8%AF%B4%E6%98%8E 在测试过程中，通过NPU的小算子拼接、mHC-Pre融合算子、和高精度CPU Golden进行三方对比，测试结果表明，**精度满足 昇腾算子精度标准2.1**。   # 【CheckList】 - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4497 | 5 个月前 | |
[feat] add mhc_pre_backward Co-authored-by: hyhhh14<huangyuehua6@huawei.com> # message auto-generated for no-merge-commit merge: !4615 merge pre_grad into master [feat] add mhc_pre_backward Created-by: hyhhh14 Commit-by: hyhhh14 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 针对流形约束超连接架构(mHC)模块的需求，库上已有正向接口npu_mhc_pre，新增反向接口npu_mhc_pre_backward。 # 【资料变更】 不涉及 # 【接口变更】 新增npu_mhc_pre_backward算子的接口 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 1、单算子模式功能测试： 测试多个shape，精度均通过。 start test cases:[(1, 1024, 4, 5120)] current test case (1, 1024, 4, 5120) dx name:dx,a shapetorch.Size([1, 1024, 4, 5120]), b shapetorch.Size([1, 1024, 4, 5120]),c shapetorch.Size([1, 1024, 4, 5120]) 均方根误差 tensor(0.0090, dtype=torch.float64) tensor(0.0090, dtype=torch.float64) mare_rate=tensor(1., dtype=torch.float64)(2), mere_rate=tensor(0.3636, dtype=torch.float64)(1.2), rmse_rate=tensor(1.0000, dtype=torch.float64)(1.2) rmse_npu=tensor(0.0090, dtype=torch.float64), rmse_high_type=tensor(0.0090, dtype=torch.float64) PASS dphi name:dphi,a shapetorch.Size([24, 20480]), b shapetorch.Size([24, 20480]),c shapetorch.Size([24, 20480]) 均方根误差 tensor(0.0006, dtype=torch.float64) tensor(0.0006, dtype=torch.float64) mare_rate=tensor(1.0023, dtype=torch.float64)(2), mere_rate=tensor(0.0133, dtype=torch.float64)(1.2), rmse_rate=tensor(0.1618, dtype=torch.float64)(1.2) rmse_npu=tensor(0.0006, dtype=torch.float64), rmse_high_type=tensor(0.0006, dtype=torch.float64) PASS dalpha name:dalpha,a shapetorch.Size([3]), b shapetorch.Size([3]),c shapetorch.Size([3]) 均方根误差 tensor(0.0030, dtype=torch.float64) tensor(0.0038, dtype=torch.float64) mare_rate=tensor(0.0231, dtype=torch.float64)(2), mere_rate=tensor(0.0109, dtype=torch.float64)(1.2), rmse_rate=tensor(0.7697, dtype=torch.float64)(1.2) rmse_npu=tensor(0.0030, dtype=torch.float64), rmse_high_type=tensor(0.0038, dtype=torch.float64) PASS dbias name:dbias,a shapetorch.Size([24]), b shapetorch.Size([24]),c shapetorch.Size([24]) 均方根误差 tensor(0.0006, dtype=torch.float64) tensor(0.0006, dtype=torch.float64) mare_rate=tensor(0.0168, dtype=torch.float64)(2), mere_rate=tensor(0.0027, dtype=torch.float64)(1.2), rmse_rate=tensor(0.1503, dtype=torch.float64)(1.2) rmse_npu=tensor(0.0006, dtype=torch.float64), rmse_high_type=tensor(0.0006, dtype=torch.float64) PASS dgamma name:dgamma,a shapetorch.Size([20480]), b shapetorch.Size([20480]),c shapetorch.Size([20480]) 均方根误差 tensor(0.0031, dtype=torch.float64) tensor(0.0031, dtype=torch.float64) mare_rate=tensor(0.9998, dtype=torch.float64)(2), mere_rate=tensor(0.0267, dtype=torch.float64)(1.2), rmse_rate=tensor(0.7930, dtype=torch.float64)(1.2) rmse_npu=tensor(0.0031, dtype=torch.float64), rmse_high_type=tensor(0.0031, dtype=torch.float64) PASS 2、 ACLNNFUZZ框架测试单算子通路，门槛用例精度均通过。 使用ACLNNFUZZ框架进行泛化测试，结果均符合预期。 3、新增UT测试用例看护，自验证截图如下  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4615 | 4 个月前 | |
Modify mhcsinkhorn PTA and mtea with outflag for backward Co-authored-by: fengjiawei1<fengjiawei5@huawei.com> # message auto-generated for no-merge-commit merge: !4814 merge mhc_opca into master Modify mhcsinkhorn PTA and mtea with outflag for backward Created-by: fengjiawei1 Commit-by: fengjiawei1 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 适配训练场景下mhcSinkHorn接口，修改mtea适配可选入参 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4814 | 4 个月前 | |
[feat] add mhc_sinkhorn_backward Co-authored-by: pnlee<lipeining1@h-partners.com> # message auto-generated for no-merge-commit merge: !4797 merge dev_ning into master [feat] add mhc_sinkhorn_backward Created-by: langdaner Commit-by: pnlee Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 新增MhcSinkhornBackward算子torch_npu接口 # 【资料变更】 新增MhcSinkhornBackward算子文档 # 【接口变更】 新增npu_mhc_sinkhorn_backward接口 # 【功能验证】 fuzz结果  ut  ttk  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4797 | 4 个月前 | |
| 2 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
【950】op-plugin回合主仓：moe_re_routing/moe_init_routing_v2/scaled_masked_softmax/group_norm_silu/moe_gating_top_k_softmax_v2 Co-authored-by: xujiachen8<xujiachen8@h-partners.com> # message auto-generated for no-merge-commit merge: !3429 merge vector-prs into master 【950】op-plugin回合主仓：moe_re_routing/moe_init_routing_v2/scaled_masked_softmax/group_norm_silu/moe_gating_top_k_softmax_v2 Created-by: xujiachen8 Commit-by: xujiachen8 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** op-plugin回合主仓： 1) npu_group_norm_silu支持混合精度 (部分平台) 2) npu_moe_re_routing 支持float8 (部分平台) 3) npu_moe_init_routing_v2 修复参数active_expert_range导致的空指针异常 4) npu_scaled_masked_softmax 支持路径5 5) npu_moe_gating_top_k_softmax_v2 支持PTA **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3429 | 9 个月前 | |
| 1 年前 | ||
| 2 年前 | ||
| 1 年前 | ||
【feat】MoeInitRoutingV3算子支持mxfp4透传&Mxfp4量化 Co-authored-by: ChenPengyi<chenpengyi@huawei.com> # message auto-generated for no-merge-commit merge: !4880 merge mxfp4 into master 【feat】MoeInitRoutingV3算子支持mxfp4透传&Mxfp4量化 Created-by: cpy_123456 Commit-by: ChenPengyi Merged-by: ascend-robot Description: MoeInitRoutingV3算子在非量化模式（quant_mode=-1）下 第0输入x新增支持类型float4_e2m1。按原逻辑搬运到第0输出expanded_x，类型仍为float4_e2m1 第2输入scale作为可选传参，新增支持shape为(N, CeilDiv(H, 64), 2)&&Dtype为float8_e8m0的数据。按原逻辑搬运到第3输出expanded_scale，类型仍为float8_e8m0 新增mxfp4量化模式（quant_mode=9）下 第0输入x支持类型bf16,fp16。量化后搬运到第0输出expanded_x，类型为float4_e2m1 量化的scale输出到到第3输出expanded_scale，shape为(N, CeilDiv(H, 64), 2)&&Dtype为float8_e8m0的数据 【测试报告】 https://gitcode.com/Ascend/op-plugin/issues/82 # 【合入来源】 MoeInitRoutingV3算子支持mxfp4透传&Mxfp4量化的需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 输入Tensor x：第0输入，表示MoE要处理的N行tokens，每个token长度为H 必须输入 Shape: (N, H) DType: float16、bfloat16、float32、int8、hifloat8、float8_e4m3fn、float8_e5m2、float4_e2m1 Format: ND 约束: quant_mode为9时：DType仅支持float16、bfloat16 expert_idx：第1输入，表示x的每一行对应的K个专家ID 必须输入 Shape: (N, K) DType: int32 Format: ND 约束: 每个元素id，要求0<=id<expert_num scale：第2输入，量化模式时用作smoothScale，非量化模式时携带与x的每一行一起排序 可选输入。quant_mode为9时，不使用、不校验该输入 Shape: quant_mode为-1时: (N,)或空 quant_mode为1时: (expertEnd-expertStart, H)，其中activateExpertRangeOptional=[expertStart, expertEnd] quant_mode为7时：(1,) //每个tensor使用同一个scale<br data-vt-id="dxblnf03"/> DType: float32 Format: ND offset：第3输入，用于量化。目前不使用、不校验 可选输入。目前不使用、不校验，可以传任意值 1.2.4 输入属性 quant_mode：第6属性，表示是否对expanded_x进行量化，以及量化的模式 可选输入（默认值为-1） 数据类型：int32 约束（取值）: -1：不量化 1：动态量化，输出expanded_x量化到int8 2：MXFP8量化，输出expanded_x量化到float8_e5m2 3: MXFP8量化，输出expanded_x量化到float8_e4m3fn 6: HIF8直传量化，输出expanded_x量化到HIF8 7: HIF8静态量化（pertensor），输出expanded_x量化到HIF8 8: HIF8动态量化（pertoken），输出expanded_x量化到HIF8 9: MXFP4量化，输出expanded_x量化到float4_e2m1 1.2.5 输出Tensor expanded_x：第0输出，表示x根据expert_idx和active_expert_range扩增、排序、筛选后的tokens Shape：(N*K, H) 有效Shape：(availIdxNum, H)，即前availIdxNum行有效，后面行无意义（随机值） DType： quant_mode为-1时：与x一致 quant_mode为1时：int8 quant_mode为2时：float8_e5m2 quant_mode为3时：float8_e4m3fn quant_mode为6时：对应直转方式，输出为hif8 quant_mode为7时：对应外部传入scale的静态量化（pertensor），输出为hif8 quant_mode为8时：对应无scale的hif8动态量化，scale动态生成（pertoken），输出为hif8 quant_mode为9时：float4_e2m1 Format: ND expanded_row_idx：第1输出，表示x与expanded_x的映射关系，具体由属性rowIdxType决定 Shape：(N*K,) 有效Shape： rowIdxType为0时：(N*K,)整个Shape有效，其中有效元素与无效元素随机出现，无效元素填充-1 rowIdxType为1时：(availIdxNum,)，即前availIdxNum个元素有效，后面元素无意义（随机值） DType：int32 Format: ND expert_tokens_count_or_cumsum：第2输出，表示每个有效专家ID对应的tokens的数目，具体由属性expert_tokens_num_type决定 Shape： expert_tokens_num_type为1时，即Count模式：(expertEnd-expertStart,) expert_tokens_num_type为2时，即KeyValue模式：(expert_num, 2)。每行为(id, count)，表示有效专家id对应count个tokens。 有效Shape： expert_tokens_num_type为1时：(expertEnd-expertStart,)整个Shape有效 expert_tokens_num_type为2时：（nonZeroCount, 2)，其中nonZeroCount为去除了count值为0的(id,count)的行数。若nonZeroCount<expert_num，则有效行末尾会填充(0,0)表示有效行的结束。 expanded_scale：第3输出，表示量化时计算的scale，或是非量化时随x携带的scale，具体由属性quant_mode和输入scale决定 Shape： quant_mode为-1或1时：(N*K,) quant_mode为2或3时：(N*K, M)，其中M=CeilAlign(CeilDiv(H,32),2)，为token长度H向上整除32（一个block大小）后，再向上对齐到2的倍数 quant_mode为6时：(N*K,) quant_mode为7时：无输出 quant_mode为8时：(N*K, 1 ) quant_mode为9时：(N, CeilDiv(H, 64), 2) 有效Shape: quant_mode为-1，未输入scale时：整个Shape的元素均无意义（随机值） quant_mode为-1，有输入scale时：(availIdxNum,)，即前availIdxNum个元素有效，后面元素无意义（随机值） quant_mode为1时：(availIdxNum,) quant_mode为2或3时：(availIdxNum, M)，M值与上述Shape描述一致 quant_mode为6时，未输入scale时：整个Shape的元素均无意义（随机值） quant_mode为6时，有输入scale时：(availIdxNum,)，即前availIdxNum个元素有效，后面元素无意义（随机值） quant_mode为7时：无输出 quant_mode为8时：(availIdxNum, 1) quant_mode为9时：(N, CeilDiv(H, 64), 2) DType： quant_mode为-1、1时：float32 quant_mode为2、3时：float8_e8m0 quant_mode为6时：float32 quant_mode为7时：无输出 quant_mode为8时：float32 quant_mode为9时：float8_e8m0 Format：ND # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 已通过pta单算子&图模式验证 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4880 | 4 个月前 | |
【feat】MoeReRouting支持HIF8 + FP4 Co-authored-by: wuxiyuan<wuxiyuan@huawei.com> # message auto-generated for no-merge-commit merge: !4778 merge master into master 【feat】MoeReRouting支持HIF8 + FP4 Created-by: wuxiyuan Commit-by: wuxiyuan Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> https://gitcode.com/Ascend/op-plugin/issues/72 MoeReRouting支持HIF8 + FP4 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 950上MoeReRouting: 新增支持hif8 + fp4 # 【资料变更】 新增输入输出支持 hif8 + fp4 数据类型 # 【接口变更】 npu_moe_re_routing 接口新增tokens_dtype入参 # 【功能验证】 已经通过torch单算子及图融合模式验证功能通路。 # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4778 | 4 个月前 | |
| 1 年前 | ||
fix: correct grad_probs dtype in npu_moe_token_unpermute_grad to match probs dtype Co-authored-by: wang_ziqi<wangziqi4@huawei.com> # message auto-generated for no-merge-commit merge: !4833 merge fix/grad-probs-dtype into master fix: correct grad_probs dtype in npu_moe_token_unpermute_grad to match probs dtype Created-by: wang-ziqi-code Commit-by: wang_ziqi Merged-by: ascend-robot Description: # 【合入来源】 - [ ] 需求 - [x] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】修复 npu_moe_token_unpermute_grad 的 grad_probs dtype 推导错误问题 1. **问题现象**： - npu_moe_token_unpermute_grad 中，grad_probs 作为 probs 的梯度，理论上应与 probs 保持相同 dtype； - 原实现中，grad_probs 的 dtype 推导错误地依赖了 grad_unpermuted_tokens； - 在混合精度场景下，当 probs=float32、grad_unpermuted_tokens=bfloat16 时，会导致 grad_probs dtype 错误； - 该问题可能进一步影响反向精度，严重时引发训练异常。 2. **问题根因**： - grad_probs 的语义是 probs 的梯度； - 其 dtype 应与 probs 保持一致； - 但原实现中，无论是 meta 推导还是生成侧 dtype 配置，都错误地使用了 grad_unpermuted_tokens 的 dtype 作为 grad_probs 的 dtype 来源。 3. **修改内容**： - op_plugin/python/meta/_meta_registrations.py - 将 grad_probs 的 meta 推导从依赖 grad_unpermuted_tokens.dtype 修正为依赖 probs.dtype； - 当 probs is None 时，保持 grad_probs is None。 - op_plugin/config/op_plugin_functions.yaml - 将 grad_probs 的 dtype 配置从 grad_unpermuted_tokens 修正为依赖 probs； - 当 probs 为空时，回退到 grad_unpermuted_tokens.scalar_type()，保证兼容已有 optional 输入场景。 - test/core_tests/test_fake_tensor.py - 新增 FakeTensor 用例，覆盖： - probs 与 grad_unpermuted_tokens dtype 不同的 mixed dtype 场景； - probs=None 场景。 - test/test_custom_ops/test_npu_moe_token_permute_and_unpermute_backward.py - 新增端到端回归用例，覆盖： - mixed dtype 场景下 grad_probs dtype 正确性； - probs=None 场景下 backward 行为。 4. **修改范围说明**： - 本次修改仅修复 npu_moe_token_unpermute_grad 的 grad_probs dtype 推导问题； - 不修改算子 schema 和接口定义； - 不改变对外接口行为。 # 【资料变更】 不涉及。 # 【接口变更】 不涉及。本次修复仅纠正 npu_moe_token_unpermute_grad 的内部 dtype 推导逻辑，不改变算子签名和接口行为。 # 【功能验证】 1. FakeTensor 验证： - 验证 probs.dtype != grad_unpermuted_tokens.dtype 时，grad_probs.dtype == probs.dtype - 验证 probs=None 时，grad_probs is None  2. 端到端验证： - 验证 mixed dtype 场景下 probs.grad.dtype == probs.dtype - 验证 probs=None 场景下 backward 行为符合预期  3. 风险评估： - 修改仅影响 npu_moe_token_unpermute_grad 的 grad_probs dtype 推导逻辑，影响范围小，回归风险可控 # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4833 | 4 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
add torch_npu-npu_mrope.md Co-authored-by: zhangyihuiben<zhangyihui16@h-partners.com> # message auto-generated for no-merge-commit merge: !4563 merge master into master add torch_npu-npu_mrope.md Created-by: zhangyihuiben Commit-by: zhangyihuiben Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [x] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 1、增加接口npu_mrope的相关文档 2、把接口npu_mrope的参数判定放到RopeWithCosCacheKernelNpuOpApi.cpp中 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 增加接口npu_mrope的相关文档 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4563 | 5 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
新增qkv_rms_norm_rope_cache算子 Co-authored-by: fengqiuyue<fengqiuyue@huawei.com> # message auto-generated for no-merge-commit merge: !4028 merge QKV_NO_DOC into master 新增qkv_rms_norm_rope_cache算子 Created-by: fengqiuyue Commit-by: fengqiuyue Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: add qkv_rms_norm_rope_cache **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4028 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
Fix: FA FP8场景query_dtype为必选项 Co-authored-by: peijingjing<peijingjing1@huawei.com> # message auto-generated for no-merge-commit merge: !4858 merge master into master Fix: FA FP8场景query_dtype为必选项 Created-by: peijingjing Commit-by: peijingjing Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [x] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 当跑hifloat8场景时，query_dtype需要进行配置，且仅支持hifloat8，当前代码query_dtype不传入时未进行拦截，现添加该拦截，在query_dtype不传时报错。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4858 | 3 个月前 | |
fix quant_flash_attention_grad ut用例 Co-authored-by: llwy0320<liwenyu23@huawei.com> # message auto-generated for no-merge-commit merge: !4709 merge master into master fix quant_flash_attention_grad ut用例 Created-by: llwy0320 Commit-by: llwy0320 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 [#57](https://gitcode.com/Ascend/op-plugin/issues/57) - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 在现有测试类 TestNPUQuantFlashAttentionV2 中适配最新golden和算子调用方法。 test_npu_quant_flash_attention_grad验证HIFP8场景，确保算子能正常执行并返回正确结果。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4709 | 4 个月前 | |
qli A5描述与example Co-authored-by: 我是石头人大王<luohao148@huawei.com> # message auto-generated for no-merge-commit merge: !4624 merge master into master qli A5描述与example Created-by: lhlll Commit-by: 我是石头人大王 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 添加QLI的A5数据类型描述 添加QLI的A5example # 【资料变更】 添加QLI的A5数据类型描述 添加QLI的A5example # 【接口变更】 不涉及 # 【功能验证】  # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4624 | 5 个月前 | |
[fix] Determine which offset to pass in aclnn Co-authored-by: liyinghao10<liyinghao10@h-partners.com> # message auto-generated for no-merge-commit merge: !4562 merge qbmm into master [fix] Determine which offset to pass in aclnn Created-by: liyinghao10 Commit-by: liyinghao10 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4562 | 5 个月前 | |
add aaqmm api and fix bugs Co-authored-by: wangkechen<wangkechen3@huawei.com> # message auto-generated for no-merge-commit merge: !4150 merge aaqmm2 into master add aaqmm api and fix bugs Created-by: Kiana1216 Commit-by: wangkechen Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4150 | 7 个月前 | |
【feature】新增适配QuantMatmulGelu融合算子，支持A4W4/A8W8输入 Co-authored-by: Sunshine_Youngster<saiyao@huawei.com> # message auto-generated for no-merge-commit merge: !4186 merge add_quant_matmal_gelu into master 【feature】新增适配QuantMatmulGelu融合算子，支持A4W4/A8W8输入 Created-by: Sunshine_Youngster Commit-by: Sunshine_Youngster Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > (如有)请关联需求文档/issue链接 - [X] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 UT自测：  fake_tensor自测：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4186 | 6 个月前 | |
| 1 年前 | ||
【feat】新增QuantMax算子，新增npu_quant_max pta接口 Co-authored-by: Hana77<wangtianqi27@huawei.com> # message auto-generated for no-merge-commit merge: !4867 merge bak into master 【feat】新增QuantMax算子，新增npu_quant_max pta接口 Created-by: Hana77 Commit-by: Hana77 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 本次PR新增了一个名为 npu_quant_max 的自定义算子。该算子在对输入做量化的同时计算输入绝对值的最大值 首先，在YAML配置文件中注册了该算子的接口定义。其次，在C++层实现了算子的核心API，并最终调用底层硬件加速内核执行计算。同时，在JSON配置文件中更新了算子API模式测试的schema。最后，新增了对应的Python单元测试，用于验证算子在特定数据类型和分组场景下的功能正确性。整个方案覆盖了算子生命周期的配置、实现与验证环节。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 ut通过截图：  atk验证通过截图：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4867 | 4 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
npu_quantize接口input数据格式支持NZ Co-authored-by: wkp<1289706727@qq.com> # message auto-generated for no-merge-commit merge: merge master-quantize into master npu_quantize接口input数据格式支持NZ Created-by: kunpengW Commit-by: wkp Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**:  See merge request: Ascend/op-plugin!3219 | 11 个月前 | |
add RGDR op-plugin Co-authored-by: NeverLCY<liuchunyuan@huawei.com> # message auto-generated for no-merge-commit merge: !3476 merge RGDR into master add RGDR op-plugin Created-by: NeverLCY Commit-by: NeverLCY Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3476 | 9 个月前 | |
| 2 年前 | ||
| 1 年前 | ||
feat: add new api (add)rms_norm_dynamic_mx_quant Co-authored-by: liiu-qii<liuqi330@huawei.com> # message auto-generated for no-merge-commit merge: !4429 merge dyn_dev into master feat: add new api (add)rms_norm_dynamic_mx_quant Created-by: liiu-qii Commit-by: liiu-qii Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 新增AddRmsNormDynamicMxQuant和RmsNormDynamicMxQuant算子的torch_npu接口 # 【资料变更】 > 不涉及 # 【接口变更】 > 新增npu_add_rms_norm_dynamic_mx_quant和npu_rms_norm_dynamic_mx_quant接口 # 【功能验证】 > 新增两个接口的test ut用例 npu_add_rms_norm_dynamic_mx_quant:  npu_rms_norm_dynamic_mx_quant:  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4429 | 5 个月前 | |
npu_rms_norm_quant接口新增dst_dtype参数 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !4169 merge RNQ_add_dst_type into master npu_rms_norm_quant接口新增dst_dtype参数 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: npu_rms_norm_quant接口新增dst_dtype参数, 支持int8,int4,hifloat8,float8_e4m3fn, float8_e5m2数据类型输出 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4169 | 6 个月前 | |
RotaryPositionEmbedding adds option input rotate Co-authored-by: lilening<lilening@huawei.com> # message auto-generated for no-merge-commit merge: !3802 merge master into master RotaryPositionEmbedding adds option input rotate Created-by: lilening Commit-by: lilening Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** >/kind feature **What does this PR do / why do we need it**: RotaryPositionEmbedding adds option input rotate **Special notes for your reviewers**: UT用例本地已测试通过   See merge request: Ascend/op-plugin!3802 | 8 个月前 | |
Added support for three-dimensional TND in both forward and reverse inputs of aclnnRotaryPositionEmbedding. Co-authored-by: shi-jiaxin9<shijiaxin10@h-partners.com> # message auto-generated for no-merge-commit merge: !3549 merge master into master Added support for three-dimensional TND in both forward and reverse inputs of aclnnRotaryPositionEmbedding. Created-by: shi-jiaxin9 Commit-by: shi-jiaxin9 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > /kind feature **What does this PR do / why do we need it**: Added support for three-dimensional TND in both forward and reverse inputs of aclnnRotaryPositionEmbedding. **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3549 | 9 个月前 | |
add rotate_quant opplugin. Co-authored-by: liuyan121<liuyan171@huawei.com> # message auto-generated for no-merge-commit merge: !4792 merge rotate_quant into master add rotate_quant opplugin. Created-by: liuyan121 Commit-by: liuyan121 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 新增RotateQuant算子的接口npu_rotate_quant,主要融合了旋转计算和量化计算。 > 详细内容见PR中文档 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” > 涉及，新增torch_npu-npu_rotate_quant.md文档。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” > 涉及 ## 函数原型 python torch_npu.npu_rotate_quant(x, rotation, *, alpha=0.0, dst_dtype=None) -> (Tensor, Tensor) ## 参数说明 - **x**（Tensor）：必选输入，输入tensor。shape支持2维[m,n]，数据类型支持bfloat16和float16，数据格式支持ND，支持非连续的Tensor。 - **rotation**（Tensor）：必选输入，旋转矩阵tensor。shape支持2维[k,k]，数据类型支持bfloat16和float16，数据格式支持ND，支持非连续的Tensor。 - **alpha**（float）：可选输入，旋转角度缩放因子，数据类型为float，默认值为0.0。 - **dst_dtype**（int）：可选输入, 指定量化输出的类型, 传None时当做torch.int8处理。 ## 返回值说明 - **y**（Tensor）：输出的量化结果，shape支持2维[m,n]，与x保持一致，数据类型支持int4/int8。数据格式支持ND，支持非连续的Tensor。 - **scale**（Tensor）：输出的量化因子，shape支持1维[m]，数据类型支持float32。数据格式支持ND，支持非连续的Tensor。 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 1. UT用例验证结果  2. ATK泛化用例验证结果  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4792 | 4 个月前 | |
| 1 年前 | ||
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
[SR]expensonal precision alignment Co-authored-by: liangsongwei<liangsongwei@huawei.com> # message auto-generated for no-merge-commit merge: !3455 merge master into master [SR]expensonal precision alignment Created-by: liangsongwei Commit-by: liangsongwei Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3455 | 9 个月前 | |
SFA资料修改/补充sparse_size为0的用例 Co-authored-by: zzzyh22<zhangyaohui22@huawei.com> # message auto-generated for no-merge-commit merge: !3753 merge master into master SFA资料修改/补充sparse_size为0的用例 Created-by: zzzyh22 Commit-by: zzzyh22 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: 补充SFA算子参数描述，对attention_mode，sparse_block_size补充说明；增加SFA异常拦截用例。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3753 | 8 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
feat:新增算子SwigluMxQuant接口 Co-authored-by: cao-ren-lei<caorenlei@huawei.com> # message auto-generated for no-merge-commit merge: !4552 merge master into master feat:新增算子SwigluMxQuant接口 Created-by: caorenlei Commit-by: cao-ren-lei Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 新增SwigluMxQuant算子的torch_npu接口 # 【资料变更】 不涉及 # 【接口变更】 新增SwigluMxQuant算子的torch_npu接口 # 【功能验证】 新增接口的test ut用例执行成功  本地用例自测成功：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4552 | 5 个月前 | |
[feat]新增npu_swiglu_mx_quant_with_dual_axis算子交付件 Co-authored-by: cao-ren-lei<caorenlei@huawei.com> # message auto-generated for no-merge-commit merge: !4842 merge 0427 into master [feat]新增npu_swiglu_mx_quant_with_dual_axis算子交付件 Created-by: caorenlei Commit-by: cao-ren-lei Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 本次PR新增了一个名为 npu_swiglu_mx_quant_with_dual_axis 的自定义算子。该算子支持在双轴（dual axis）模式下进行混合精度量化，旨在为深度学习模型推理提供更灵活、高效的量化选项，以优化计算性能和内存使用。 首先，在YAML配置文件中注册了该算子的接口定义。其次，在C++层实现了算子的核心API，包括输入校验、输出张量形状计算、内存分配，并最终调用底层硬件加速内核执行计算。同时，在JSON配置文件中更新了算子API模式测试的schema。最后，新增了对应的Python单元测试，用于验证算子在特定数据类型（如float8_e4m3fn）和分组场景下的功能正确性。整个方案覆盖了算子生命周期的配置、实现与验证环节。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 ut通过截图：  自验证截图：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4842 | 4 个月前 | |
add torch_npu.npu_swiglu_quant api, based on aclnnSwiGluQuantV2 Co-authored-by: zhaoyu20121997<nanzhaogang@qq.com> # message auto-generated for no-merge-commit merge: merge swiglu_pr into master add torch_npu.npu_swiglu_quant api, based on aclnnSwiGluQuantV2 Created-by: zhaoyu20121997 Commit-by: zhaoyu20121997 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > /kind feature **What does this PR do / why do we need it**: 新增torch_npu.npu_swiglu_quant接口，接入aclnnSwiGluQuantV2算子 **Special notes for your reviewers**: 接口说明请参考提交的文件docs/context/torch_npu-npu_swiglu_quant.md See merge request: Ascend/op-plugin!3167 | 11 个月前 | |
Modify the Added support for scenarios where p or k is set to None in npu_top_k_top_p. Co-authored-by: shi-jiaxin9<shijiaxin10@h-partners.com> # message auto-generated for no-merge-commit merge: !3344 merge master into master Modify the Added support for scenarios where p or k is set to None in npu_top_k_top_p. Created-by: shi-jiaxin9 Commit-by: shi-jiaxin9 Merged-by: ascend-robot Description: **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: Modify the Added support for scenarios where p or k is set to None in npu_top_k_top_p. **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3344 | 10 个月前 | |
| 1 年前 | ||
add TBMM torch function Co-authored-by: fbbccc<fangbochen@huawei.com> # message auto-generated for no-merge-commit merge: !4306 merge TBMM into master add TBMM torch function Created-by: fbbccc Commit-by: fbbccc Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4306 | 6 个月前 | |
TQBMM算子扩展mxfp8场景，更改TQBMM算子torch原型，将group_size更改为group_sizes Co-authored-by: jgx12<jingaoxiang@huawei.com> # message auto-generated for no-merge-commit merge: !4488 merge tqbmm_mxfp8 into master TQBMM算子扩展mxfp8场景，更改TQBMM算子torch原型，将group_size更改为group_sizes Created-by: jgx12 Commit-by: jgx12 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 1、将perm_x1的默认值从[0,1,2]更改为[1,0,2]，符合功能实现 2、修复评审原型和当前原型不一致问题，将torch接口的group_size接口更改为group_sizes，与qbmm对齐，group_sizes为torch接口评审的结果，并且该接口为预留接口，之前未启用，不会参数影响。 3.增加torch资料，适配mx量化模式，并增加mx量化用例 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 更改codegen/templates/_op_plugin_docs.py资料，增加mx量化模式。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 将torch接口的group_size接口更改为group_sizes，与qbmm对齐，group_sizes为torch接口评审的结果，并且该接口为预留接口，之前未启用，不会参数影响。 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 新增用例看护 test/core_tests/test_fake_tensor.py test/test_custom_ops/test_npu_transpose_quant_batchmatmul.py  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4488 | 5 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
npu_quant_gmm_alltoallv接口删掉不用的参数offset Co-authored-by: qq_57796320<zhushuqin1@huawei.com> # message auto-generated for no-merge-commit merge: !4440 merge master into master npu_quant_gmm_alltoallv接口删掉不用的参数offset Created-by: qq_57796320 Commit-by: qq_57796320 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260312 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [✓] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 删掉接口无用参数，已通过评审 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4440 | 6 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
add pta for op quantbatchmatmulinplaceadd Co-authored-by: kknan<xukenan@huawei.com> # message auto-generated for no-merge-commit merge: !3989 merge qbmmia into master add pta for op quantbatchmatmulinplaceadd Created-by: kknan Commit-by: kknan Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > /kind feature **What does this PR do / why do we need it**: add pta for op quantbatchmatmulinplaceadd **Special notes for your reviewers**: See merge request: Ascend/op-plugin!3989 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 | ||
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
del 910_95 Co-authored-by: MrMC-<shiqunze@h-partners.com> # message auto-generated for no-merge-commit merge: !4223 merge del91095 into master del 910_95 Created-by: MrMC- Commit-by: MrMC- Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > A5改名需求 - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 删除上次修改用于兼容的910_95 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4223 | 7 个月前 | |
| 2 年前 | ||
| 2 年前 | ||
Skip failing test methods with unittest.skip decorator Co-authored-by: yuhaiyan8<yuhaiyan8@h-partners.com> # message auto-generated for no-merge-commit merge: !4493 merge master into master Skip failing test methods with unittest.skip decorator Created-by: yuhaiyan Commit-by: yuhaiyan8 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 1. 暂时跳过失败用例 2. 已提单跟进修复 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4493 | 4 个月前 | |
add cache_mode for npu_scatter_pa_kv_cache Co-authored-by: DaiFu<daifu2@huawei.com> # message auto-generated for no-merge-commit merge: !4664 merge 2604scatter into master add cache_mode for npu_scatter_pa_kv_cache Created-by: daifu1234567 Commit-by: DaiFu Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [x] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） npu_scatter_pa_kv_cache接口新增可选参数cache_mode，以支持ND格式输入 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 涉及，对应docs.py和.md已修改 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 涉及，新增可选入参 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 已本地验证，功能精度正常：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4664 | 4 个月前 | |
| 1 年前 | ||
topktoppsample Co-authored-by: jin-yao312<jinyao8@huawei.com> # message auto-generated for no-merge-commit merge: !4071 merge topktopp into master topktoppsample Created-by: zerosaki_admin Commit-by: jin-yao312 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind bug > /kind task > /kind feature **What does this PR do / why do we need it**: **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4071 | 7 个月前 | |
| 1 年前 | ||
| 1 年前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 10 个月前 | ||
| 7 个月前 | ||
| 9 个月前 | ||
| 7 个月前 | ||
| 5 个月前 | ||
| 1 年前 | ||
| 8 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 8 个月前 | ||
| 8 个月前 | ||
| 1 年前 | ||
| 11 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 11 个月前 | ||
| 10 个月前 | ||
| 1 年前 | ||
| 8 个月前 | ||
| 8 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 10 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 10 个月前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 2 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 11 个月前 | ||
| 7 个月前 | ||
| 9 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 9 个月前 | ||
| 5 个月前 | ||
| 5 个月前 | ||
| 7 个月前 | ||
| 2 年前 | ||
| 9 个月前 | ||
| 2 年前 | ||
| 1 年前 | ||
| 5 个月前 | ||
| 8 个月前 | ||
| 7 个月前 | ||
| 8 个月前 | ||
| 5 个月前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 5 个月前 | ||
| 7 个月前 | ||
| 3 个月前 | ||
| 5 个月前 | ||
| 8 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 4 个月前 | ||
| 5 个月前 | ||
| 4 个月前 | ||
| 9 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 2 年前 | ||
| 2 年前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 2 年前 | ||
| 7 个月前 | ||
| 5 个月前 | ||
| 11 个月前 | ||
| 7 个月前 | ||
| 4 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 6 个月前 | ||
| 7 个月前 | ||
| 9 个月前 | ||
| 6 个月前 | ||
| 5 个月前 | ||
| 8 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 8 个月前 | ||
| 8 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 9 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 7 个月前 | ||
| 4 个月前 | ||
| 1 年前 | ||
| 5 个月前 | ||
| 6 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 5 个月前 | ||
| 9 个月前 | ||
| 2 年前 | ||
| 9 个月前 | ||
| 6 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 4 个月前 | ||
| 5 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 2 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 9 个月前 | ||
| 1 年前 | ||
| 2 年前 | ||
| 1 年前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 1 年前 | ||
| 4 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 5 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 5 个月前 | ||
| 5 个月前 | ||
| 7 个月前 | ||
| 6 个月前 | ||
| 1 年前 | ||
| 4 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 11 个月前 | ||
| 9 个月前 | ||
| 2 年前 | ||
| 1 年前 | ||
| 5 个月前 | ||
| 6 个月前 | ||
| 8 个月前 | ||
| 9 个月前 | ||
| 4 个月前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 9 个月前 | ||
| 8 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 5 个月前 | ||
| 4 个月前 | ||
| 11 个月前 | ||
| 10 个月前 | ||
| 1 年前 | ||
| 6 个月前 | ||
| 5 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 6 个月前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 7 个月前 | ||
| 2 年前 | ||
| 2 年前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 1 年前 | ||
| 7 个月前 | ||
| 1 年前 | ||
| 1 年前 |