已合并
feat(profiler): add fused op flops formulas #38360
hhz0创建于 6月12日
feat(profiler): add fused op flops formulas #38360
已合并
Pull Request已成功合入, 合并人@ascend-robot
(感谢 hhz0 的贡献)6月12日 关联了issue:[Feature]: 【Profiler】支持典型算子MFU分析
ascend-robot
6月12日 评论:
6月12日 评论:
6月12日 添加了label:ascend-cla/yes
hhz0
6月12日 评论:
6月12日 评论:
compile


ascend-robot
6月12日 评论:
6月12日 评论:
Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| test | ✅ 李伟, 陈豪 (2/2) | ✅ 李伟, 陈豪 (2/1) |
| torch_npu/profiler | ✅ 李伟, 陈豪 (2/2) | ✅ 李伟, 陈豪 (2/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
hhz0, thanks for your pull request. All authors of the commits have signed the CLA. 👍


ascend-robot
6月12日 评论:
6月12日 评论:
当前仓库存在以下 保护分支 :
| Protected Branch | Version | Release |
|---|---|---|
| master | ||
| v2.12.0 | ||
| v2.11.0 | ||
| v2.10.0 | ||
| v2.7.1 | ||
| v2.9.0 | ||
| v2.7.1-26.1.0 | ||
| v2.12.0-26.1.0 | ||
| v2.9.0-26.1.0 | ||
| v2.10.0-26.1.0 | ||
| v2.11.0-26.1.0 | ||
| ci-test | ||
| sync-pr28113--to-v2.9.0 |
评论 /sync <branch1> <branch2> ... 可将当前 PR 修改同步到其它分支(创建同步 PR):
a) 如果当前 PR 是 Open 状态,同步操作将延迟到 PR 被合并时执行
b) 如果当前 PR 已经 Merged,将立即执行同步操作
注意:
- /sync 命令可以指定同步到多个分支,仅最后一个 /sync 命令生效
- 如果创建的同步 PR 不正确,可通过向同步 PR 的源分支提交轻量级 PR 完善,或使用 /close 命令关闭


6月12日 添加了label:ci-pipeline-running
ascend-robot
6月12日 评论:
6月12日 评论:
Ascend docs pipeline is running...


6月12日 添加了label:docs-ci-pipeline-running
ascend-robot
6月12日 评论:
6月12日 评论:
Ascend docs pipeline is running...


AtlasAccount
6月12日 评论:
6月12日 评论:
/torch_npu/profiler/_flops_formulas.py
/torch_npu/profiler/_flops_hook.py


ascend-robot
6月12日 评论:
6月12日 评论:
✅ 跳过 docs ci 检查,没有需要检查的文档文件


6月12日 删除了label:docs-ci-pipeline-running
6月12日 添加了label:docs-ci-pipeline-success
ascend-robot
6月12日 评论:
6月12日 评论:
✅ 跳过 docs ci 检查,没有需要检查的文档文件


6月12日 删除了label:ci-pipeline-running
6月12日 添加了label:ci-pipeline-passed
ascend-robot
6月12日 评论:
6月12日 评论:
流水线 PR-pipeline_pytorch#31641 已完成
| 阶段 | 任务名 | 状态 | 详情 |
|---|---|---|---|
| 编译构建 | Build_X86 | ✅ | >>> |
| Build_ARM | ✅ | >>> | |
| Build_LibTorch_x86 | ✅ | >>> | |
| Build_LibTorch_ARM | ✅ | >>> | |
| Build_X86_torchair | 🛑 | >>> | |
| Build_ARM_torchair | 🛑 | >>> | |
| patch_test | 🛑 | >>> | |
| 恶意代码检查 | Antipoison | ✅ | >>> |
| 编码安全与规范检查 | CodeCheck | ✅ | >>> |
| check_error | ✅ | >>> | |
| CodeCheck_lintrunner | ✅ | >>> | |
| 开源片段检查 | SCA | ✅ | >>> |
| 开发者测试 | UT_X86_Part_01 | 🛑 | >>> |
| UT_X86_Part_02 | 🛑 | >>> | |
| UT_ARM_A3_Part_01 | 🛑 | >>> | |
| UT_ARM_A3_Part_02 | 🛑 | >>> | |
| UT_ARM_A2_Part_01 | ✅ | >>> | |
| UT_ARM_A2_Part_02 | ✅ | >>> | |
| UT_ARM_A2_Part_03 | ✅ | >>> | |
| UT_inductor_Part_01 | 🛑 | >>> | |
| UT_inductor_Part_02 | 🛑 | >>> | |
| UT_inductor_Part_03 | 🛑 | >>> | |
| UT_inductor_Part_04 | 🛑 | >>> | |
| UT_DIST_ARM_Part_01 | 🛑 | >>> | |
| UT_DIST_ARM_Part_02 | 🛑 | >>> | |
| UT_DIST_ARM_Part_03 | 🛑 | >>> | |
| UT_DIST_ARM_Part_04 | 🛑 | >>> | |
| UT_ARM_A2_Select_Part_01 | ✅ | >>> | |
| UT_ARM_A2_Select_Part_02 | ✅ | >>> | |
| 流水线 | PR-pipeline_pytorch | ✅ | >>> |


chenhao_1209
6月12日 评论:
6月12日 评论:
/approve


6月12日 添加了label:approved
6月12日 添加了label:lgtm
6月12日 合入了pull request
ascend-robot
6月12日 评论:
6月12日 评论:
流水线 pytorch_gitcode_PR_multiVersion#10618 [ commitID:8bdaa445 ] 已完成


【合入来源】
https://gitcode.com/Ascend/pytorch/issues/2367
【修改方案】
npu_all_gather_base_mm、npu_transpose_batchmatmul、npu_grouped_matmul、npu_quant_matmul_gelu、npu_grouped_matmul_swiglu_quant_v2、npu_alltoallv_gmm、npu_gmm_alltoallv、npu_block_sparse_attention。npu_fusion_attention/npu_fused_infer_attention_score的 Attention FLOPs 口径,按QK^T + P @ V统计,使用q_dim + value_dim,不再误用key_dim。group_list、block sparse attention 有效块统计、BNSD actual lengths,以及value_dim != key_dim回归场景。【资料变更】
不涉及。
【接口变更】
不涉及。未新增或变更客户可见 API,仅补充 profiler 内部 FLOPs 默认计算公式。
【功能验证】
python -m py_compile torch_npu/profiler/_flops_formulas.py test/profiler/test_flops_hook.py,通过。git diff --check,通过。python -m pytest test/profiler/test_flops_hook.py -q,当前本地环境缺少编译扩展torch_npu._C,收集阶段报ModuleNotFoundError,未进入 UT 执行。【CheckList】