已关闭
[Requirement|需求建议]: 新增AscendQuantV2/AscendAntiQuantV2/DynamicQuant/EmbeddingDenseGrad算子host fallback支持 #4868
杨金翰50065292创建于 8月18日关闭于 8月18日
8月18日 添加了label:requirement
杨金翰50065292
8月18日 评论:
8月18日 评论:
/assign @Ruyue1550


8月18日 将 Ruyue1550 设为负责人
8月18日 关闭了 issue
8月18日 添加了label:resolved
一、Background(背景信息)
将 canndev 仓库中的 fallback 实现迁移至 ops-nn,为 AscendQuantV2、AscendAntiQuantV2、DynamicQuant、EmbeddingDenseGrad 4 个算子新增 host fallback 执行能力,使算子图可在 host 侧通过 aclnn API 完成计算,不依赖特定 device 执行环境。
二、Origin(信息来源)
需求来源于 canndev 仓库已有 fallback 实现向 ops-nn 的迁移(对应 PR:https://gitcode.com/cann/ops-nn/pull/8392)。
三、Benefit / Necessity(价值/作用)
补齐 ops-nn 中 4 个算子的 host fallback 能力,增强算子执行方式的兼容性与可移植性,与 canndev 实现保持一致。
四、Design(设计方案)
在各算子 op_graph 目录新增
*_fallback.cpp:实现 HostExecuteFunc,通过CANN_OPS_OPB_SYN_EXEC_ACLNN调用对应 aclnn API(aclnnAscendQuant / aclnnAscendAntiQuant / aclnnDynamicQuantV2 / aclnnEmbeddingDenseBackward),并以IMPL_OP(OpName).OpExecuteFunc(...)注册执行函数;统一使用op_fallback.h与OP_CHECK_IF错误处理,版权声明采用 CANN Open Software License Agreement Version 2.0。关联 PR:https://gitcode.com/cann/ops-nn/pull/8392