Closed
[Requirement|需求建议]: mqsmla算子回合主线 #6328
chenzeyu28Add on  27 days agoClosed at  25 days ago
chenzeyu28Collaborators
27 days ago Create

Backgroud(背景信息)

mqsmla算子回合主线

Benefit / Necessity (价值/作用)

Design(设计方案)

likedislike
Cchenzeyu28Collaborators
27 days ago Added label: requirement
游震Collaborators
27 days ago Comments:

/assign @chenzeyu28

likedislike
CANN-robotCANN-robotCollaborators
27 days ago Assign chenzeyu28 as responsible person
周云飞
周云飞Collaborators
27 days ago Comments:

您好,感谢提出 MQSMLA 算子回合主线的需求。目前主算子目录 attention/mixed_quant_sparse_flash_mla 下已有 Host 侧参数检查、Tiling 代码及 arch35 内核实现片段,但这还不足以确认您希望回合的改动是否已包含在内,也不能据此判断本次回合是否完成。

请补充待回合的源分支或提交范围;如果已有对应 PR,提供链接即可,以便明确本次需要合入的具体改动。可行的处理方向是先对比待回合内容与目标主线的差异,再评估接口兼容性及相关平台的验证范围。当前 Issue 尚未提供具体改动或关联 PR,暂无法确认合入状态。

likedislike
CANN-robotCANN-robotCollaborators
25 days ago Close issue
CANN-robotCANN-robotCollaborators
25 days ago Added label: resolved
周云飞
周云飞Collaborators
4 days ago Comments:

PR #13993 已合入 MQSMLA 算子 A6 回主线相关改动,包括:

  • 增加 ascend960dt 的算子配置,并在架构检查中支持 DAV_9201 和 DAV_9202。
  • 为上述架构接入 A6 CSA tiling 分支,将 tile size 设为 64,并关闭 softmax LSE 返回。

关联 PR:PR #13993

likedislike