已合并
新增QBMMV3 A4W4 pertoken场景支持weight nz特性 #1187
zhang-junming21创建于 1月29日
新增QBMMV3 A4W4 pertoken场景支持weight nz特性 #1187
已合并
Pull Request已成功合入, 合并人@CANN-robot
（感谢 zhang-junming21 的贡献）
CANN-robot
1月29日 评论：
1月29日 评论：
1月29日 添加了label：stat/needs-squash
CANN-robot
1月29日 评论：
1月29日 评论：
以下是根据您提交的修改文件推荐的Reviewer和Committer序列，需各模块评审通过后方可合入
| Module List | Reviewers | Committers |
|---|---|---|
| matmul | N/A | tangweiwei2, chenqi317, liubo75, crystalhu, fanqirui |
1月29日 将chaotang233,crystalhu,fanqirui,chenqi317,liubo75,tangweiwei2,zhang-wu设为审查人
1月29日 添加了label：cann-cla/yes
此处折叠了310条消息 查看更多
2月6日 添加了label：approved
CANN-robot
2月6日 评论：
2月6日 评论：
Review Guide
This pull-request passes review.
Committers who wrote a comment of /approve are: chenqi317.
Reviewers who wrote a comment of /lgtm are: chenqi317, chaotang233, fanqirui.
2月6日 关闭了关联的issue
2月6日 合入了pull request
描述
为QBMMV3算子在pertoken场景下增加int4 weight nz输入特性，使能性能相比a8w8平均优化1.6x。
关联的Issue
Issue #692
测试
本地自验证精度通过，性能符合需求描述，蓝区冒烟通过，rdv通过，新增冒烟测试通过，api/tiling/kernel ut均通过。
文档更新
相关文档修改在另外的pr中：https://gitcode.com/cann/ops-nn/pull/1316。
matmul/quant_batch_matmul_v3/docs/aclnnQuantMatmulWeightNz.md
类型标签