已关闭
[Requirement|需求建议]: MhcPreBackward算子支持A2芯片 #4369
renruhai创建于  24 天前关闭于  14 天前
renruhai
24 天前 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

  1. 新增MhcPreBackward算子A2实现
  2. Phi、gradHRes等参数,同时支持2N+N! 和2N + N*N两种shape

Benefit / Necessity (价值/作用)

电信AI公司计划0810启动万亿模型训练,需要最大支持1M序列训练能力,同时包括128k/256k/512k长序列能力

Design(设计方案)

  1. 实现公式和A5保持一致,具体实现可以参考MhcPreSinkhornBackward算子。
likedislike
renruhai
24 天前 评论:

/assign

likedislike
CANN-robotCANN-robot成员
24 天前 将 renruhai 设为负责人
Rrenruhai
24 天前 修改了issue 的描述
CANN-robotCANN-robot成员
14 天前 关闭了 issue
CANN-robotCANN-robot成员
14 天前 添加了label:resolved