Closed
[Requirement|需求建议]: experimental 目录的 MxFP8 Softmax FP16 低精方案(quant_mode=3)自 7f64d3bff 引入后, 存在接口兼容与性能两方面问题,本 Issue 跟踪其修复与优化。 #5923
wangjianhaoAdd on  Oct 10Closed at  Oct 10
wangjianhaoCollaborators
Oct 10 Create

Backgroud(背景信息)

主线 v_tail 接口变更导致 experimental 算子段错误
性能基线偏低

Benefit / Necessity (价值/作用)

解决段错误
优化性能

Design(设计方案)

  1. experimental aclnn 签名对齐主线 v_tail 三参数;exp 方案未实现该特性,非空入参显式报错
    (ACLNN_ERR_PARAM_INVALID),全空走原路径(等价旧行为);
  2. metadata 分核修正:ParamsInitMxfp8SoftmaxFp16 固定 mBaseSize_ = s2BaseSize_ = 256;
  3. kernel 侧移植既定优化:L0 重组(K 单槽换 PV K=256 宽操作数)、K/V 成对预取、
    P 搬运独立事件、UnitFlag 满块计算与 Fixpipe 重叠、VF FP16→FP8 四链双发射、
    V2 MulDstAdd 融合;
  4. golden 对拍语义随数值路径同步适配。
likedislike
WwangjianhaoCollaborators
Oct 10 Added label: requirement
游震Collaborators
Oct 10 Comments:
likedislike
CANN-robotCANN-robotCollaborators
Oct 10 Assign cardiac_index as responsible person
CANN-robotCANN-robotCollaborators
Oct 10 Close issue
CANN-robotCANN-robotCollaborators
Oct 10 Added label: resolved