已关闭
[Requirement|需求建议]: mhc_post_backward支持A2/A3 #2032
fazhenyao123创建于  4月23日关闭于  4月25日
fazhenyao123
fazhenyao123成员
4月23日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

基于Deepseek 最新的mHC算法进行模型架构进行算子融合

Benefit / Necessity (价值/作用)

支持Deepseek 最新的mHC算法,典型整网用例融合以后算子平均性能相比小算子拼接提升

Design(设计方案)

支持将Hpost^T@F+Hres^T@X的反向传播整体融合成一个大算子MhcPostBackward。
硬件型号:A2/A3
数据格式:ND
数据类型:activation类型的输入输出仅支持float16, bfloat16,Hres/Hpost/dHres/dHpost仅支持float32
是否支持确定性计算: 涉及,默认支持

likedislike
fazhenyao123fazhenyao123成员
4月23日 添加了label:requirement
fazhenyao123fazhenyao123成员
4月23日 将 fazhenyao123 设为负责人
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
Mmonologue815成员
4月25日 修改了issue 的描述
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
fazhenyao123fazhenyao123成员
4月25日 修改了issue 的描述
CANN-robotCANN-robot成员
4月25日 关闭了 issue
CANN-robotCANN-robot成员
4月25日 添加了label:resolved
Hhuang-chuhong成员
4月28日 关联了看板:Transformer
Hhuang-chuhong成员
4月28日 移除了看板:Transformer