ExtendConvTranspose(由 conv3d_backprop_input_v2 承载)分组转置卷积场景中,filter 在图上已由前置 TransData 完成组内 C/N 转置,并以 FRACTAL_Z 格式(布局 [N1][DHW][C1][C0][N0])传入算子。原实现需要 AIV 侧 group transdata 在运行时对权重做组间重排,多组场景引入额外搬运与 AIC/AIV 跨核同步开销。A16W8(out_backprop=FP16、filter=INT8)的权重物理布局与 fuse FZ 契约一致,可由 AIC 从 GM 直搬 L1。
conv3d_backprop_input_v2 / extend_conv_transpose 算子开发团队(@linruihan)在 ExtendConvTranspose Fractal_Z_Group 场景支持工作中提出。
TPL_FZ_GM_TO_L1
GetLoadB2Condition
NeedRuntimeGroupTransdata
IsFullKernelGmToL1
LoadGmDataToB1ForFz
LoadBL0
ValidateDirectFzB1Copy
关联 PR:https://gitcode.com/cann/ops-nn/merge_requests/10277
/assign @linruihan
Backgroud(背景信息)
ExtendConvTranspose(由 conv3d_backprop_input_v2 承载)分组转置卷积场景中,filter 在图上已由前置 TransData 完成组内 C/N 转置,并以 FRACTAL_Z 格式(布局 [N1][DHW][C1][C0][N0])传入算子。原实现需要 AIV 侧 group transdata 在运行时对权重做组间重排,多组场景引入额外搬运与 AIC/AIV 跨核同步开销。A16W8(out_backprop=FP16、filter=INT8)的权重物理布局与 fuse FZ 契约一致,可由 AIC 从 GM 直搬 L1。
Origin(信息来源)
conv3d_backprop_input_v2 / extend_conv_transpose 算子开发团队(@linruihan)在 ExtendConvTranspose Fractal_Z_Group 场景支持工作中提出。
Benefit / Necessity (价值/作用)
Design(设计方案)
TPL_FZ_GM_TO_L1(loadB1Condition)标识 Direct FZ;host 侧在 filter storage 为 FRACTAL_Z(primary 归一化,含子格式)且 dtype 为 A16W8 时启用,GetLoadB2Condition返回 NO_TRANSPOSE_NO_REVERSENeedRuntimeGroupTransdata(ENLARGE 且非 DirectFZ 才走 AIV transdata)、IsFullKernelGmToL1(GM_TO_L1 与 FZ_GM_TO_L1 均按全核加载处理)LoadGmDataToB1ForFz直搬;L1→L0B 走 NO_TRANSPOSE 通用分支;groupStrideB_ 按物理段(Cin/Cout 双向对齐)计算LoadBL0按段基址 + 物理宽寻址;bias/scale 全量 Cin 驻留 L1 按段 nStart 切片(受 uint16 字节数上限约束,超限回退 inner product)ValidateDirectFzB1Copy)关联 PR:https://gitcode.com/cann/ops-nn/merge_requests/10277