已合并
feat: MatMulV3 weightNz bf16/fp16 kernel support other templates #5444
llqx-1创建于 5月30日
feat: MatMulV3 weightNz bf16/fp16 kernel support other templates #5444
已合并
Pull Request已成功合入, 合并人@CANN-robot
(感谢 llqx-1 的贡献)5月30日 添加了label:cann-cla/yes
CANN-robot
5月30日 评论:
5月30日 评论:
Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| matmul | ✅ 唐超, 胡碧霞 (2/2) | ✅ 唐超, 胡碧霞 (2/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
llqx-1, thanks for your pull request. All authors of the commits have signed the CLA. 👍


此处折叠了50条消息 查看更多
CANN-robot
6月2日 评论:
6月2日 评论:
The MR can not be merged, because of CodeReview discussion not resolved
If you want to solve this problem, you can click here to do it in the FAQs.


sxb154714
6月2日 评论:
6月2日 评论:
/lgtm


6月2日 合入了pull request
CANN-robot
6月2日 评论:
6月2日 评论:
Pull Request 已合并或已关闭。
If you want to solve this problem, you can click here to do it in the FAQs.


描述
背景:当前matmulv3算子在输入数据类型为fp16/bf16,数据格式为mat1(nd),mat2(nz)时,只支持base模板的几种kernel实现。其他特化模板在特定场景下能够拿到更优的性能表现。
现放开wnz其他各类模板的准入条件,并修复存在问题的kernel模板实现。
主要修改:
放开相关kernel在tiling的模板选择限制
放开ndnz格式tilingkey注册到kernel的条件以及kernel入口的编译宏约束
aclnn接口放开准入条件。
单核切k gm2l1模板问题修复
关联的Issue
测试
文档更新
类型标签