Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
arch35 上新增 fake_quant_affine_cachemask 算子。 支持的数据类型同910B。 支持pertensor、perchannel、perhead模板。 量化系数scale的shape可以是(1,) 或输入x的任意轴。
vector
对标torch算子,支持外部scale输入。对输入x进行量化计算。
/assign
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
arch35 上新增 fake_quant_affine_cachemask 算子。
支持的数据类型同910B。
支持pertensor、perchannel、perhead模板。
量化系数scale的shape可以是(1,) 或输入x的任意轴。
Origin(信息来源)
vector
Benefit / Necessity (价值/作用)
对标torch算子,支持外部scale输入。对输入x进行量化计算。
Design(设计方案)