已关闭
[Requirement|需求建议]: 量化结果FP4_E2M1支持新算法scale进位模式 #1704
pyongq创建于  3月25日关闭于  3月28日
pyongq
pyongq
3月25日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

功能是新增了一个scale进位算法,当量化结果为FP4_E2M1时,支持SCALE_ALG=2,同时dst_max_value 的取值仅支持 0.0 或 6.0-12.0,并且在 支持SCALE_ALG=2 时有效。默认值 0.0 表示 maxType 对应目标数据类型的最大值。如果提供其他值,则 mxscale 根据提供的值计算。

Origin(信息来源)

Vector

Benefit / Necessity (价值/作用)

新增实现

Design(设计方案)

image.png
image.png
image.png

likedislike
pyongqpyongq
3月25日 修改了issue 的描述
pyongq
pyongq
3月25日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
3月25日 将 pyq17870581669 设为负责人
CANN-robotCANN-robot成员
3月28日 关闭了 issue
CANN-robotCANN-robot成员
3月28日 添加了label:resolved