Star1137
2751
代码
代码
Issues234
Pull Requests396
Actions
项目讨论
Wiki
分析
Star1137
2751
已合并
IFA算子新增sparsemode类型9，支持树形mask输入 #2045
jiazhixi创建于 2月26日
IFA算子新增sparsemode类型9，支持树形mask输入 #2045
已合并
jiazhixi创建于 2月26日
从liyangzhi/ops-transformer_sparse9master合入到cann/ops-transformermaster
jiazhixi
jiazhixi
2月26日

描述

改动原因：IFA算子支持树形mask输入，新增sparseMode9，命名为tree mask
支持范围：mla全量化/非量化，gqa非量化
改动方法：sparse9独立实现mask从gm至ub搬运方式，复用部分sparse3处理流程，新增相关特性拦截，并新增tree mask相关文档描述

关联的Issue

https://gitcode.com/cann/ops-transformer/issues/1413

测试

二级冒烟

文档更新

更新了aclnnFusedInferAttentionScoreV4.md文件
更新了sparse_mode参数说明.md文件

类型标签

  • [.] 其他，请描述：sparseMode参数新增类型9
likedislike
Pull Request已成功合入, 合并人@CANN-robot
（感谢 jiazhixi 的贡献）
jiazhixijiazhixi
2月26日 创建了 pull request，commit 629e1109
jiazhixijiazhixi
2月26日 update merge request[project id: 7673863, iid: 2045, commit_id: c000a7158506faed6908e8b765f4f2ce4194bebf] virtual merging success
jiazhixijiazhixi
2月26日 推送  431 个提交:629e1109-430 commits from branch master，6bcd96a6-解决冲突，冲突文件attention/common/op_host/arch32/fia_tiling_nonquant_mla.cpp attention/incre_flash_attention/op_host/incre_flash_attention_tiling_check.cpp
jiazhixijiazhixi
2月26日 update merge request[project id: 7673863, iid: 2045, commit_id: 2c741b1c4522d31f2c7246f6763704f500968c13] virtual merging success
CANN-robotCANN-robot成员
2月26日 添加了label：stat/needs-squash
此处折叠了195条消息 查看更多
jiazhixijiazhixi
3月25日 修改了pull request 的描述
M
mabing成员
3月25日 评论：

/lgtm

likedislike
CANN-robotCANN-robot成员
3月25日 添加了label：lgtm
CANN-robot
CANN-robot成员
3月25日 评论：

Review Guide

This pull-request passes review.
Committers who wrote a comment of /approve are: haijie_699874, yang-binrong, yu-xinjie62.
Reviewers who wrote a comment of /lgtm are: yang-binrong, mabing1118, zzy__, yu-xinjie62, haijie_699874.

likedislike
CANN-robotCANN-robot成员
3月25日 合入了pull request