已关闭
[Requirement|需求建议]: 新增AscendQuantV2/AscendAntiQuantV2/DynamicQuant/EmbeddingDenseGrad算子host fallback支持 #4868
杨金翰50065292创建于  8月18日关闭于  8月18日
杨金翰50065292
杨金翰50065292成员
8月18日 创建

一、Background(背景信息)

将 canndev 仓库中的 fallback 实现迁移至 ops-nn,为 AscendQuantV2、AscendAntiQuantV2、DynamicQuant、EmbeddingDenseGrad 4 个算子新增 host fallback 执行能力,使算子图可在 host 侧通过 aclnn API 完成计算,不依赖特定 device 执行环境。

二、Origin(信息来源)

需求来源于 canndev 仓库已有 fallback 实现向 ops-nn 的迁移(对应 PR:https://gitcode.com/cann/ops-nn/pull/8392)。

三、Benefit / Necessity(价值/作用)

补齐 ops-nn 中 4 个算子的 host fallback 能力,增强算子执行方式的兼容性与可移植性,与 canndev 实现保持一致。

四、Design(设计方案)

在各算子 op_graph 目录新增 *_fallback.cpp:实现 HostExecuteFunc,通过 CANN_OPS_OPB_SYN_EXEC_ACLNN 调用对应 aclnn API(aclnnAscendQuant / aclnnAscendAntiQuant / aclnnDynamicQuantV2 / aclnnEmbeddingDenseBackward),并以 IMPL_OP(OpName).OpExecuteFunc(...) 注册执行函数;统一使用 op_fallback.hOP_CHECK_IF 错误处理,版权声明采用 CANN Open Software License Agreement Version 2.0。

关联 PR:https://gitcode.com/cann/ops-nn/pull/8392

likedislike
杨金翰50065292杨金翰50065292成员
8月18日 添加了label:requirement
杨金翰50065292
杨金翰50065292成员
8月18日 评论:

/assign @Ruyue1550

likedislike
CANN-robotCANN-robot成员
8月18日 将 Ruyue1550 设为负责人
CANN-robotCANN-robot成员
8月18日 关闭了 issue
CANN-robotCANN-robot成员
8月18日 添加了label:resolved