已合并
feat: MatMulV3 weightNz bf16/fp16 kernel support other templates #5444
llqx-1创建于 5月30日
feat: MatMulV3 weightNz bf16/fp16 kernel support other templates #5444
已合并
llqx-1创建于 5月30日
llqx-1成员
5月30日

描述

背景:当前matmulv3算子在输入数据类型为fp16/bf16,数据格式为mat1(nd),mat2(nz)时,只支持base模板的几种kernel实现。其他特化模板在特定场景下能够拿到更优的性能表现。
现放开wnz其他各类模板的准入条件,并修复存在问题的kernel模板实现。

主要修改:
放开相关kernel在tiling的模板选择限制
放开ndnz格式tilingkey注册到kernel的条件以及kernel入口的编译宏约束
aclnn接口放开准入条件。
单核切k gm2l1模板问题修复

关联的Issue

测试

文档更新

类型标签

likedislike
Pull Request已成功合入, 合并人@CANN-robot
(感谢 llqx-1 的贡献)
Lllqx-1成员
5月30日 创建了 pull request,commit e306e44c
CANN-robotCANN-robot成员
5月30日 添加了label:cann-cla/yes
CANN-robot
CANN-robot成员
5月30日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here
You can get sig-info at here


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
matmul 唐超, 胡碧霞 (2/2) 唐超, 胡碧霞 (2/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

llqx-1, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
llqx-1成员
5月30日 评论:

compile

likedislike
Lllqx-1成员
5月30日 update merge request[project id: 7665709, iid: 5444, commit_id: 4697274d12d80d646646f56fd30048a3a9fbca18] virtual merging success
此处折叠了50条消息 查看更多
CANN-robot
CANN-robot成员
6月2日 评论:

The MR can not be merged, because of CodeReview discussion not resolved

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike
sxb154714
sxb154714成员
6月2日 评论:

/lgtm

likedislike
Lllqx-1成员
6月2日 解决了最后一个问题
CANN-robotCANN-robot成员
6月2日 合入了pull request
CANN-robot
CANN-robot成员
6月2日 评论:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike