已关闭
【WIP】[Requirement|需求建议]: 新增 BlockAttnResPrepare 原型、Tiling 与 Kernel #4749
zhaoyingchao2创建于  25 天前关闭于  24 天前
zhaoyingchao2成员
25 天前 创建

背景信息

BlockAttnResPrepare 用于 Attention Residuals 两阶段计算的第一阶段。原需求 #4387 主要面向 Torch 接口,为便于独立评审和合入,现将算子原型、InferShape、Tiling、Kernel 与对应 UT 拆分为独立需求。

价值/作用

  • 提供 Ascend 950 BlockAttnResPrepare 的算子原型和 shape 推导。
  • 提供纯 AIV 与 mixed AIC/AIV 两条 Tiling/Kernel 路径。
  • 复用 ops-tensor 公共 mixed kernel 模板,减少重复实现。
  • 通过 host、kernel UT 覆盖资源校验、tiling key 和基础执行路径。

设计方案

  1. 定义 BlockAttnResPrepare 输入、输出与 eps 属性,并实现 InferShape。
  2. 小规格使用 tiling key 1000 的纯 AIV 路径,大规格使用 tiling key 2000 的 1 AIC : 2 AIV 路径。
  3. mixed 路径调用 ops-tensor 公共模板,固定对应依赖提交。
  4. 补充 host tiling、InferShape、kernel UT 及 TTK/golden 用例。
likedislike
Zzhaoyingchao2成员
25 天前 添加了label:requirement
Zzhaoyingchao2成员
25 天前 关联了pull request:feat: add BlockAttnResPrepare tiling and kernel
weihao18成员
25 天前 评论:
likedislike
CANN-robotCANN-robot成员
25 天前 将 zhaoyingchao2 设为负责人
CANN-robotCANN-robot成员
24 天前 关闭了 issue
CANN-robotCANN-robot成员
24 天前 添加了label:resolved