已关闭
[Requirement|需求建议]: A16W8MM 切blaze框架 #6124
renzetao创建于  9月22日关闭于  9月22日
renzetao成员
9月22日 创建

Backgroud(背景信息)

WeightQuantBatchMatmulV2 在 Ascend950 上增加 Blaze 执行路径,复用 ops-tensor 的权重反量化与矩阵乘组件。

Origin(信息来源)

Ascend950

Benefit / Necessity (价值/作用)

复用 Blaze 组件,减少算子侧反量化、矩阵乘及调度逻辑的重复维护,并保留其他场景原有的执行路径。

Design(设计方案)

  • 新增 Blaze 适配文件,将算子输入、tiling 数据转换为 Blaze Kernel 所需的矩阵乘、反量化和调度参数。
  • 在现有入口增加编译期分支:ND 权重、FP16/BF16 输入输出、INT8/FP8 E4M3/HiFloat8 权重及 per-tensor/per-channel 反量化场景接入 Blaze。
  • 显式映射反量化模式,避免依赖 ops-nn 与 ops-tensor 的枚举数值一致。
  • A16W4、NZ 权重及 per-group 等场景保留原有执行路径。
  • 保持算子公开接口和 tiling 数据结构不变。
likedislike
Rrenzetao成员
9月22日 添加了label:requirement
Rrenzetao成员
9月22日 修改了issue 的描述
renzetao成员
9月22日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
9月22日 将 renzetao 设为负责人
CANN-robotCANN-robot成员
9月22日 关闭了 issue
CANN-robotCANN-robot成员
9月22日 添加了label:resolved
Rrenzetao成员
21 天前 删除了关联的pull request:feat: migrate weight_quant_batch_matmul_v2 CMCT kernel to Blaze