Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
新增torch_extension接口:torch.ops.cann_ops_nn.flat_quant。
Quant
支持通过torch接口来实现FlatQuant单算子调用、图模式调用。
支持单算子调用:
支持图模式调用:
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
新增torch_extension接口:torch.ops.cann_ops_nn.flat_quant。
Origin(信息来源)
Quant
Benefit / Necessity (价值/作用)
支持通过torch接口来实现FlatQuant单算子调用、图模式调用。
Design(设计方案)
支持单算子调用:

支持图模式调用:
