Backgroud（背景信息）

视频生成模型（如 FastVideo / Wan 系列）的注意力输入是一段很长的视频 token 序列：把视频按
(T, H, W) 三维画布展开后，30x48x80 这种常见画布就有 115200 个图像 token，再加上文本 token。
对这样的序列做全量注意力，计算量随序列长度平方增长。

FastVideo 的 sliding_tile_attention 把图像 token 按 (6, 8, 8) 划分成 tile，每个 head 只在自己的
三维滑动窗口内做注意力：窗口以 query 所在 tile 为中心、每侧 k/2 个 tile，在画布边界处整体内移并
按 tile 网格截断；存在文本时，图像 query 额外访问有效文本 KV，文本区 query 访问全部图像 KV 与有效
文本 KV。昇腾侧此前没有等价算子。

本算子来源于 CANN 社区任务（2026 年 8 月社区任务），设计文档已按社区任务流程评审合入，验收已通过。

Benefit / Necessity （价值/作用）

1. 与 FastVideo sliding_tile_attention 语义对齐，视频生成模型可直接在昇腾上使用三维滑窗注意力，
   计算量随窗口内选中的 tile 数增长，而不是随序列长度平方增长。
2. kernel 不接收 blocks x blocks 的 block mask：host 只下发每个 head 的窗口（单位为 tile）与 tile
   网格，向量核在 Cube 启动前按窗口写出每个 (head, image block) 的 KV 块列表。内存与预处理开销由
   O(blocks^2) 降为 O(选中块数)，因此最大画布 198x200x200（20625 个 tile）也可用。
3. 支持逐 head 不同的窗口（windowSize 长度为 1 时广播到所有 head，长度为 N 时逐 head 生效），
   覆盖 FastVideo 中不同 head 使用不同窗口的用法。
4. 支持 FLOAT16 与 BFLOAT16、头维 1~128（非 16 倍数的头维同样支持），画布为任意 TxHxW。
5. 确定性实现：相同输入与属性在相同软硬件环境下多次执行结果逐 bit 一致。

支持设备：

• Atlas A2 训练系列产品 / Atlas 800I A2 推理产品
• Ascend 910B

Design（设计方案）

aclnn 两段式接口：

aclnnStatus aclnnSlidingTileAttentionGetWorkspaceSize(
    const aclTensor *query, const aclTensor *key, const aclTensor *value, aclTensor *output,
    const aclIntArray *const *windowSize, uint64_t windowSizeLen, int64_t textLength, bool hasText,
    const char *seqShape, uint64_t *workspaceSize, aclOpExecutor **executor);
aclnnStatus aclnnSlidingTileAttention(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor,
                                      aclrtStream stream);

主要输入输出：

host侧设计

1. Shape 和 dtype 推导

输出 shape 与 dtype 跟随 query；InferShape 要求 query 为四维 BNSD，否则返回失败。

2. 参数校验与头维路由

校验 q/k/v/output 的四维 BNSD、shape 与 dtype 一致、B/N/S/D 均大于 0；seqShape 的 T/H/W 需在
[1,200] 内且分别能被 6/8/8 整除（6x8x8 的 tile 前提），否则返回参数错误。

按头维选择执行路径，补零列不改变 Q·K 的结果：

3. 窗口下发与 launch 划分

host 把每个 head 的有效窗口（已按 tile 网格截断）写成 [1,N,1,3] 的 INT8 窗口表，并以属性下发 tile
网格（T | H<<16 | W<<32）与单个 query 块最多选中的 KV 块数。窗口相同的连续 head 合并到一次 launch：
两个 kernel 都按位置把一次 launch 的任务分给各核，一次 launch 内混合大小窗口会让拿到小窗口的核空等
最大窗口的核。

4. Tiling 与 workspace

tiling 下发 tile 网格、图像块数、文本块标志、每个 head 的列表容量与向量子核分工等；workspace 用于
补零后的 Q/K/V 副本、KV 块列表以及 score/概率的中转缓冲。

kernel侧设计

1. KV 块列表构建

Cube 启动前，向量子核按窗口为每个 (head, image block) 写出 KV 块列表（按列表容量对齐），文本区对应
的列表追加在图像块之后；所有 batch 共用同一份列表。

2. 分块 online softmax

沿用 BlockSparseAttention 在 A2 上的数据流：384 行 query 为一个任务，KV 以 512 key 为一个栈，
Cube 做 Q·K^T 与 P·V，向量核在 FLOAT32 下做 online softmax 与输出累加，不生成完整的 S x S 矩阵。
阶段 2（P·V 与 rescale）跨 query 任务滞后若干个 KV 栈执行，host 按平台 L2 容量选择滞后深度。

3. 文本区

文本区作为一个 384 token 的块参与选择：图像 query 的列表追加该块，文本区 query 的列表包含全部图像块
与该块；textLength 之外的预留槽只作为 query 行输出，不参与 KV softmax。