已合并
optimize the performance of aicpu add operator #2462
ZhaiPeiChao创建于 4月25日
optimize the performance of aicpu add operator #2462
已合并
Pull Request已成功合入, 合并人@CANN-robot
(感谢 ZhaiPeiChao 的贡献)4月25日 创建了 pull request,commit ed862471
CANN-robot
4月25日 评论:
4月25日 评论:
Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| math/add | ✅ 张瑜翔, 宋凯 (2/2) | ✅ 张瑜翔, 宋凯 (2/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
ZhaiPeiChao, thanks for your pull request. All authors of the commits have signed the CLA. 👍


4月25日 添加了label:cann-cla/yes
4月25日 将FelixTang7,zhou-qilong,wangrui_,rxtfeng,loov1,zhangzijie,jia0liang,songkai111,zhangyuxiang0119,llimwang,gubaocheng设为评审人
4月25日 将FelixTang7,zhou-qilong,wangrui_,rxtfeng,loov1,zhangzijie,jia0liang,songkai111,zhangyuxiang0119,llimwang,gubaocheng设为评审人
4月25日 将FelixTang7,zhou-qilong,wangrui_,rxtfeng,loov1,zhangzijie,songkai111,zhangyuxiang0119,llimwang,gubaocheng设为审查人
4月25日 将FelixTang7,zhou-qilong,wangrui_,rxtfeng,loov1,zhangzijie,songkai111,zhangyuxiang0119,llimwang,gubaocheng设为审查人
此处折叠了131条消息 查看更多
songkai111
5月25日 评论:
5月25日 评论:
/lgtm
/approve


5月25日 添加了label:lgtm
CANN-robot
5月25日 评论:
5月25日 评论:
5月25日 关闭了关联的issue
5月25日 合入了pull request
描述
AICPU add算子性能优化
fast path 负责 ≥99% 真实工作负载(深度学习里 Add 几乎都是 same-shape 或 scalar-bcast),通用 Eigen 路径只兜底多维非平凡 broadcast。
Fast path 关键点:
__restrict__+ 定长循环 → 编译器自动 NEON/AVX 向量化 (对应 V / E)。output bytes阈值动态选择串行 / ParallelFor (对应 T / O10):kParallelBytesThresh = 192 KiB:基于 10 μs ParallelFor 固定调度开销 + ~8 GB/s 单核 add 带宽反推 ~160 KiB,取 20% 余量。kBytesPerShard = 256 KiB:初版用 32 KiB 在 16 MiB 负载上产生 0.67× 回退(shard 数过多导致线程间抢带宽),调到 256 KiB 后恢复至 1.02×。__builtin_expect(rc != OK, 0)标注冷分支,保持 C++17 合规(不使用 C++20[[likely]])。reinterpret_cast→PtrToPtr<void,T>。关联的Issue
issue #1522
测试
基于4线程进行测试:
文档更新
不涉及
类型标签