已关闭
[Requirement|需求建议]: dynamic_dual_level_mx_quant: 支持smooth scale #1541
gt0cd001创建于  3月17日关闭于  3月26日
gt0cd001
3月17日 创建

Backgroud(背景信息)

dynamic_dual_level_mx_quant接口声明了smooth_scale参数,当前代码未实现smooth scale,需要增加支持smooth scale

Origin(信息来源)

Benefit / Necessity (价值/作用)

提高计算效率:融合smooth scale和二级量化,减少内存搬运次数

Design(设计方案)

tiling:检查smooth scale的数据类型和shape;修改计算ubFactor保留ubuf内存用于存放smooth scale
kernel:DynamicDualLevelMxQuantBase增加模板参数needSmoothScale;增加CopySmoothScale函数搬运smooth scale到ubuf内存;增加ComputeSmoothScaleLevel0Quant函数融合x*smooth_scale和level0_quant

likedislike
Ggt0cd001
3月17日 关联了pull request:[WIP]dynamic_dual_level_mx_quant: 支持smooth scale
jiangjiawei成员
3月17日 评论:

/assign @gt0cd001

likedislike
CANN-robotCANN-robot成员
3月17日 将 gt0cd001 设为负责人
Ggt0cd001
3月24日 修改了issue 的描述
Ggt0cd001
3月25日 修改了issue 的描述
Ggt0cd001
3月26日 issue类型由 任务 改变为 需求
Ggt0cd001
3月26日 issue状态由 待办的 改变为 已完成
Ggt0cd001
3月26日 关闭了 issue
CANN-robotCANN-robot成员
3月26日 添加了label:Accepted
CANN-robotCANN-robot成员
3月26日 添加了label:resolved