已关闭
[Requirement|需求建议]: mhc_post_backward支持A2/A3 #2032
fazhenyao123创建于 4月23日关闭于 4月25日
4月23日 添加了label:requirement
4月23日 将 fazhenyao123 设为负责人
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 修改了issue 的描述
4月25日 关闭了 issue
4月25日 添加了label:resolved
4月28日 关联了看板:Transformer
4月28日 移除了看板:Transformer
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
基于Deepseek 最新的mHC算法进行模型架构进行算子融合
Benefit / Necessity (价值/作用)
支持Deepseek 最新的mHC算法,典型整网用例融合以后算子平均性能相比小算子拼接提升
Design(设计方案)
支持将Hpost^T@F+Hres^T@X的反向传播整体融合成一个大算子MhcPostBackward。
硬件型号:A2/A3
数据格式:ND
数据类型:activation类型的输入输出仅支持float16, bfloat16,Hres/Hpost/dHres/dHpost仅支持float32
是否支持确定性计算: 涉及,默认支持