已关闭
[Requirement|需求建议]: torch的cann_ops_transformer.ops的moe_init_routing、moe_finalize_routing 接口支持自动反向 #4359
JimmyLam2创建于 19 天前关闭于 11 天前
weihao18
19 天前 评论：
19 天前 评论：
/assign @JimmyLam2
19 天前 将 JimmyLam2 设为负责人
17 天前 修改标题为 “[Requirement|需求建议]: torch的cann_ops_transformer.ops的moe_init_routing、moe_finalize_routing 接口支持自动反向”，原标题为“[Requirement|需求建议]: MoeInitRoutingV2、MoeFinalizeRoutingV2 torch的cann_ops_transformer.ops.接口支持自动反向”
AlfengYuan
17 天前 评论：
17 天前 评论：
请审视是否支持 控核功能 @JimmyLam2
JimmyLam2
17 天前 评论：
17 天前 评论：
11 天前 关闭了 issue
11 天前 添加了label：resolved
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud（背景信息）
torch的cann_ops_transformer.ops的moe_init_routing、moe_finalize_routing 接口支持自动反向
Benefit / Necessity （价值/作用）
1.新增moe_init_routing、moe_finalize_routing的反向接口
2.无需再手动对齐反向算子的参数，一键反向
Design（设计方案）
新增moe_init_routing_grad、moe_finalize_routing_grad的torch_extension接口，分别转发至aclnnMoeInitRoutingGradV2、aclnnMoeFinalizeRoutingGradV2
配置moe_init_routing、moe_finalize_routing的autograd到对应的moe_init_routing_grad、moe_finalize_routing_grad