已开启

【Feature】triton算子(_layer_norm_fwd_1pass_kernel)迁移mindspeed-ops仓 #10

LinShua创建于 5月18日

5月18日创建

任务描述

基于state-spaces/mamba开源仓库的triton源码，迁移优化triton算子在NPU上跑通及性能优化。
本期任务的具体信息如下：
（1）算子名称：_layer_norm_fwd_1pass_kernel
（2） state-spaces/mamba开放仓库的算子源码链接：
https://github.com/state-spaces/mamba/blob/main/mamba_ssm/ops/triton/layernorm_gated.py
（3）迁移指导文档：https://gitcode.com/Ascend/triton-ascend/blob/main/docs/zh/programming_guide.md
参考 skill 地址：https://gitcode.com/Ascend/agent-skills/tree/master/skills/simple-vector-triton-gpu-to-npu
（4）开发平台：Atlas 800T A2或者A3

验收标准

一、任务交付件
本期任务为基于state-spaces/mamba开放仓库代码进行功能扩展，请合入开发代码。主要开发点如下：
（1） triton算子针对NPU的适配修改优化后的代码
（2）针对该triton算子的测试用例UT
二、验收标准：
1）精度/性能要求
精度：
对比GPU相同输入算子精度误差小于0.1%
若无GPU标杆，与CPU小算子对齐，精度误差小于0.1%
性能：
补充说明：具体性能对比数据呈现，按 CV类算子达到0.7x竞品， VV类算子达到0.9x竞品
以下以竞品A100为例说明计算具体的性能对比要求:

1.先计算当前运行NPU设备与对应竞品GPU的算力换算比例

硬件规格	910B2	A100	910B2/A100
Cube算力	354	312	1.13x
Vector算力	11.06	19.5	0.56x
带宽	1800	2039	0.88x

2.根据算力换算比例计算对应算子类在不同bound场景的实际性能要求

910B2 VS A100

bound场景	CV类算子(0.7X)	VV类算子(0.9x)
Cube算力bound场景	0.8x	1.0X
Vector算力bound场景	0.4x	0.5X
Memory bound场景（HBM）	0.6x	0.8x

计算式子：以CV类算子的Cube算力bound场景为例：1.13 * 0.7 =0.8
2）实践文档：
triton算子介绍1篇
3）任务完成标准
本次任务完成标准为：
精度/性能（根据实际要求）达标，PR完成合入，实践文档提交到仓库issue。

PR 合入

本地完成测试验证后，向MindSpeed-Ops的master分支发起PR。

对接人

LinSHua

欢迎加入社区，感谢您对社区的贡献 🎉!

L LinShua成员

5月18日修改标题为 “【Feature】triton算子(_layer_norm_fwd_1pass_kernel)迁移mindspeed-ops仓”，原标题为“【Feature】triton算子(kda_gate_fwd_kernel)迁移mindspeed-ops仓”

L LinShua成员

5月18日修改了issue 的描述

L LinShua成员

5月18日修改了issue 的描述

Nice try

5月29日评论：

认领这个任务 @LinShua

L LinShua成员

6月4日添加了label：feature

wangx700成员

6月12日评论：

/label add triage-review

ascend-robot成员

6月12日添加了label：triage-review

Ronald1995成员

6月25日评论：

认领这个任务 @LinShua

@Nice_try

欢迎认领任务，请参考https://gitcode.com/Ascend/MindSpeed-Ops/issues/3 社区任务池明确该任务的：

完成的截止日期
开发进展反馈
微信答疑群
任务交付注意事项

等信息。如果您同时认领了多项任务，但无法都能进行投入，可以在部分任务中回复退出.

麻烦您加入到对应微信群，群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。等您加入到微信群后，我这边会在社区任务池里面登记任务责任人。

Ronald1995成员

6月25日评论：

认领这个任务 @LinShua

@Nice_try

关于任务进展反馈的要求，您这边的开始时间可以从今天开始算，因为之前您认领任务时，这块细节还没敲定。

另外，您可以考虑认领其他昇腾社区任务https://gitcode.com/org/Ascend/discussions/4

Nice try

6月25日评论：

好的，已加入微信群 @Ronald1995

Nice try

6月27日关联了pull request：feat(triton): _layer_norm_fwd_1pass_kernel迁移mindspeed-ops仓

Nice try

6月27日评论：

@Ronald1995 已提交pr，麻烦联系审阅下，另外想询问下sca问题如何解决。

gcw_MTeIQk9o

6月29日评论：

认领这个任务

yuhanBai成员

6月30日评论：

认领这个任务

@gcw_MTeIQk9o

你好，感谢您对昇腾平台的支持，当前一个任务只分配一个开发，根据评论认领时间确定，您可以后续观察该任务是否被释放退出，或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

zeshengzong成员

7月2日关联了看板：@zeshengzong的看板 20260702

ascend-robot成员

7月3日关联了看板：MindStudio ISSUE管理

gcw_K5CvmS79成员

7月3日评论：

认领这个任务

yuhanBai成员

7月7日评论：

认领这个任务

@gcw_K5CvmS79

你好，感谢您对昇腾平台的支持，当前一个任务只分配一个开发，根据评论认领时间确定。请关注https://gitcode.com/Ascend/MindSpeed-Ops/issues/3任务是否释放或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

Nice try

7月10日评论：

退出任务

L liuzhexu成员

7月11日关联了里程碑：MindSpeed 26.2.0

gcw_K5CvmS79成员

7月16日评论：

@yuhanBai 我认领该任务

yuhanBai成员

7月21日评论：

@yuhanBai 我认领该任务

@gcw_K5CvmS79

感谢您此前对该任务的关注与支持！
由于上一位认领者自愿退出任务，目前该任务已重新开放。根据此前的候选顺序，我们希望优先邀请您参与该任务。
如您目前仍有意愿认领，请在5个工作日内回复确认，并简要说明预计开始时间或初步推进计划。确认后，我们将为您保留任务，并提供必要的背景资料和支持。
如您近期时间安排不便，也请直接告知，我们将继续顺延联系其他候选贡献者，不会影响您后续参与其他社区任务。
再次感谢您对昇腾开源社区的关注，期待与您合作！

gcw_K5CvmS79成员

7月21日评论：

@yuhanBai 我认领该任务

@gcw_K5CvmS79

感谢您此前对该任务的关注与支持！
由于上一位认领者自愿退出任务，目前该任务已重新开放。根据此前的候选顺序，我们希望优先邀请您参与该任务。
如您目前仍有意愿认领，请在5个工作日内回复确认，并简要说明预计开始时间或初步推进计划。确认后，我们将为您保留任务，并提供必要的背景资料和支持。
如您近期时间安排不便，也请直接告知，我们将继续顺延联系其他候选贡献者，不会影响您后续参与其他社区任务。
再次感谢您对昇腾开源社区的关注，期待与您合作！

@yuhanBai

确认认领，即日开始准备该任务。