| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
[Bugfix] avoid add atb api doc during torch.compile Co-authored-by: XDaoHong<xudaohong@huawei.com> # message auto-generated for no-merge-commit merge: !3646 merge master into master [Bugfix] avoid add atb api doc during torch.compile Created-by: XDaoHong Commit-by: XDaoHong Merged-by: ascend-robot Description: https://gitcode.com/Ascend/op-plugin/issues/26 See merge request: Ascend/op-plugin!3646 | 10 个月前 | |
【feat】optimize memory for npu_moe_token_permute_grad Co-authored-by: xuyun15<xuyun15@huawei.com> # message auto-generated for no-merge-commit merge: !4904 merge xy_dev into master 【feat】optimize memory for npu_moe_token_permute_grad Created-by: xuyun15 Commit-by: xuyun15 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> 社区链接https://gitcode.com/Ascend/op-plugin/issues/91 - [x] 需求 内部issue # 【修改方案】 1、新增npu_moe_token_permute_grad_v2 2、修改npu_moe_token_permute绑定反向为npu_moe_token_permute_grad_v2 # 【资料变更】 >不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 与常规测试相同，显存优化需结合业务具体网络 ut: pytest test/test_custom_ops/test_npu_moe_token_permute_and_unpermute_backward.py  显存测试结果：网络子模块为 x=2*x->npu_moe_token_permute->mean 优化前：  优化后：  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/op-plugin!4904 | 4 个月前 | |
support npu_fusion_attention_v3 with fake register Co-authored-by: wangchao430<wangchao430@huawei.com> # message auto-generated for no-merge-commit merge: !4123 merge master_fav3cpu into master support npu_fusion_attention_v3 with fake register Created-by: wangchao430 Commit-by: wangchao430 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > > /kind feature **What does this PR do / why do we need it**: 新增npu_fusion_attention_v3算子，支持入图和aclgraph（不带update）。与npu_fusion_attention变更点主要包含： 1. npu_fusion_attention_v3适配层入口处，prefix参数转为symint数组，actual_seq_qlen、actual_seq_kvlen参数转为cpu Tensor（内容为一维int数组），其中actual_seq_qlen、actual_seq_kvlen尽可能避免发生内存拷贝。 2. 返回值中的seed和offset改为tensor，numel删除（在反向中可以通过重计算得到）。在aclgraph场景下，seed和offset为npu Tensor，直接用于dropout计算，否则为cpu Tensor。由于算子get_max_workspace能力暂未支持，update逻辑暂未适配，aclgraph仅支持不需要actual_seq_qlen、actual_seq_kvlen的BNSD布局。 **Special notes for your reviewers**: See merge request: Ascend/op-plugin!4123 | 8 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 10 个月前 | ||
| 4 个月前 | ||
| 8 个月前 |