已开启
[Requirement|需求建议]: ExtendConv2D 算子支持fp16 * int8数据类型定点化计算 #4835
Bojin Lin创建于 20 天前
20 天前 关联了pull request：adaptation of the conv operatoor for A16W8
19 天前 关联了pull request：git push --force
19 天前 将 weixin_45565792 设为负责人
7 天前 关联了pull request：small kernel a16w8 support for partload/parallelism 精度问题回退
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud（背景信息）
ExtendConv2D算子支持fp16* w8数据类型定点化计算，在定点化算法下，降低面积功耗，一定程度上保证原有精度，同时性能优于fp16 * fp16
Origin（信息来源）
Conv卷积团队
Benefit / Necessity （价值/作用）
性能优于fp16 * fp16
Design（设计方案）
tiling侧：放开checkDtype校验，新增dtype组合(前期已完成)
kernel侧：Intf k0计算使用weightT，LoadAL0搬运尾块时，使用fmapT计算CinATail