已关闭
[Bug-Report|缺陷反馈]: GroupedMatmul量化激活提示与WeightNz格式描述优化 #3015
weinachuan创建于  6月9日关闭于  6月10日
weinachuan成员
6月9日 创建

Describe the current behavior / 问题描述 (Mandatory / 必填)

GroupedMatmul量化场景下,部分当前算子实现未支持的激活组合仍可能传入非0的actType。考虑兼容性,当前不应直接拦截这些输入,但需要通过warning提示用户该量化组合不支持激活,建议设置actType为0。

GMMweightNZ接口文档中也存在容易引入ND相关语义的描述。该接口语义应屏蔽上层format,weight tensor在接口侧强制按FRACTAL_NZ格式解析,不应描述为接口执行或依赖ND到NZ转换。

Environment / 环境信息 (Mandatory / 必填)

CANN ops-transformer;GroupedMatmul接口参数校验逻辑与GMMweightNZ接口文档。

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

  1. 在GroupedMatmul量化场景中传入当前kernel未实现激活分支的非0 actType。
  2. 查看GMMweightNZ接口文档中weight格式相关描述。

Describe the expected behavior / 预期结果 (Mandatory / 必填)

  1. 对当前算子实现未支持的量化激活组合,仅通过OP_LOGW提示用户,不做参数拦截,保持兼容性。
  2. A8W8且输出为FP16/BF16的已支持激活路径保持不变。
  3. Ascend950相关逻辑保持不变。
  4. GMMweightNZ文档明确weight按FRACTAL_NZ格式解析,避免ND相关语义描述。

无运行失败日志。该问题跟踪量化激活提示行为和WeightNz文档语义澄清。

Special notes for this issue/备注 (Optional / 选填)

兼容性敏感场景暂不做硬拦截,只提示用户规避不支持的激活组合。

likedislike
Wweinachuan成员
6月9日 添加了label:bug-report
huang-chuhong成员
6月9日 评论:

/assign @Wei_NaChuan

likedislike
CANN-robotCANN-robot成员
6月9日 将 Wei_NaChuan 设为负责人
Wweinachuan成员
6月9日 修改标题为 “[Bug-Report|????]: GroupedMatmul???????WeightNz??????”,原标题为“[Bug-Report]: GroupedMatmul quant activation warning and WeightNz format clarification”
Wweinachuan成员
6月9日 修改了issue 的描述
Wweinachuan成员
6月9日 修改标题为 “[Bug-Report]: GroupedMatmul quant activation warning and WeightNz format clarification”,原标题为“[Bug-Report|????]: GroupedMatmul???????WeightNz??????”
Wweinachuan成员
6月9日 修改标题为 “[Bug-Report|????]: GroupedMatmul???????WeightNz??????”,原标题为“[Bug-Report]: GroupedMatmul quant activation warning and WeightNz format clarification”
Wweinachuan成员
6月9日 修改了issue 的描述
Wweinachuan成员
6月9日 修改了issue 的描述
Wweinachuan成员
6月9日 修改了issue 的描述
Wweinachuan成员
6月9日 修改标题为 “[Bug-Report|缺陷反馈]: GroupedMatmul量化激活提示与WeightNz格式描述优化”,原标题为“[Bug-Report|????]: GroupedMatmul???????WeightNz??????”
Wweinachuan成员
6月9日 修改了issue 的描述
CANN-robotCANN-robot成员
6月10日 关闭了 issue
CANN-robotCANN-robot成员
6月10日 添加了label:resolved