Star1111
2705
代码
代码
Issues204
Pull Requests367
Actions
项目讨论
Wiki
分析
Star1111
2705
已合并
add fused operator finalRouting #5941
slj创建于 5月26日
add fused operator finalRouting #5941
已合并
slj创建于 5月26日
从slj02/ops-transformerfeat/FinalRouting合入到cann/ops-transformermaster
slj
slj成员
5月26日

描述

新增最终路由算子FinalRouting
对于每个Token t：

out[t]=∑e(in[token_table[t,e]]⋅score_table[t,e])out[t] = \sum_{e} \big(in[token\_table[t, e]] \cdot score\_table[t, e]\big)

关联的Issue

关联Issue #2692

测试

测试脚本中测试了NPU和CPU的计算结果对比

文档更新

PR中包含一个README.md新增

类型标签

likedislike
Pull Request已成功合入, 合并人@CANN-robot
（感谢 slj 的贡献）
sljslj成员
5月26日 创建了 pull request，commit 9461d3a7
sljslj成员
5月26日 关联了issue：[Requirement|需求建议]: 新增最终路由算子FinalRouting
CANN-robotCANN-robot成员
5月26日 添加了label：stat/needs-squash
CANN-robot
CANN-robot成员
5月26日 评论：

Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here

PR Approval Progress

✅ Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
experimental/moe ✅ 於欣洁, chen-linxin4 (2/2) ✅ 於欣洁, chen-linxin4 (2/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

slj02, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
CANN-robotCANN-robot成员
5月26日 添加了label：cann-cla/yes
CANN-robotCANN-robot成员
5月26日 将cpy_123456,juyangokok,monologue815,chen-linxin4,yu-xinjie62,Allan_Yu,songkai111,liudan12,cc-z,mabing1118,guoqiuhao设为评审人
CANN-robotCANN-robot成员
5月26日 将cpy_123456,juyangokok,monologue815,chen-linxin4,yu-xinjie62,Allan_Yu,songkai111,liudan12,cc-z,mabing1118,guoqiuhao设为审查人
slj
slj成员
5月26日 评论：

compile

likedislike
sljslj成员
5月26日 update merge request[project id: 7673863, iid: 5941, commit_id: e24fc4ea1c0e4ff543afd42b288ee51a8ac8b66f] virtual merging success
CANN-robotCANN-robot成员
5月26日 添加了label：ci-pipeline-running
CANN-robot
CANN-robot成员
5月26日 评论：

流水线任务触发成功
任务链接 [0817d95a9b74478caa5eb265da3a6afe][流水线指导]

任务名称状态日志下载链接
Compile_Ascend_X86 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_mobile_station ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental ✅ SUCCESS >>>>> >>>>>
Compile_Pre ✅ SUCCESS >>>>>
pre_comment ✅ SUCCESS >>>>>
Compile_Ascend_X86_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_X86_mobile_station_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_ARM_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_X86_experimental_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_ARM_experimental_ubuntu24 ✅ SUCCESS >>>>>
Compile_X86_monitor_910b ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_910c ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_950_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_ARM_experimental_950_ubuntu24 ✅ SUCCESS >>>>>
UT_Test ✅ SUCCESS
PreSmoke_A900 ✅ SUCCESS >>>>>
API_Check ✅ SUCCESS >>>>>
PreSmoke_ATK_Test_A2 ✅ SUCCESS >>>>>

[2026-05-26 16:23:48]    CI执行结束

likedislike
CANN-robot
CANN-robot成员
5月26日 评论：

流水线任务触发成功
任务链接 [ef8a0ce5a80b4c1e9c8c92b01aa31e03][流水线指导]

任务名称状态日志下载链接
codecheck ❌ FAILED
SCA ✅ SUCCESS >>>>>
antipoison ✅ SUCCESS >>>>>
codecheck_style ✅ SUCCESS >>>>>
StaticCheck_codespell_check ⚠️ WARNING >>>>>
StaticCheck_link_validity_check ✅ SUCCESS
StaticCheck_resource_existence_check ✅ SUCCESS
StaticCheck_tag_closed_check ✅ SUCCESS
StaticCheck_markdownlint ⚠️ WARNING >>>>>
codecheck_checkpr ✅ SUCCESS
codecheck_precommit ⚠️ WARNING >>>>> >>>>>
likedislike
CANN-robotCANN-robot成员
5月26日 添加了label：api-check-pass
CANN-robotCANN-robot成员
5月26日 删除了label：ci-pipeline-running
CANN-robotCANN-robot成员
5月26日 添加了label：ci-pipeline-failed
sljslj成员
5月26日 update merge request[project id: 7673863, iid: 5941, commit_id: 54cf272f6d721ca126523e6fb409729332b539e6] virtual merging success
sljslj成员
5月26日 推送  1 个提交:184bd065-add fused operator finalRouting
sljslj成员
5月26日 update merge request[project id: 7673863, iid: 5941, commit_id: e6aba36098b6251638a94c62fb52c29b57d2fdaf] virtual merging success
slj
slj成员
5月26日 评论：

compile

likedislike
sljslj成员
5月26日 update merge request[project id: 7673863, iid: 5941, commit_id: 27f5475a71d3122bde9fdd1278b2571fd4c27af9] virtual merging success
CANN-robotCANN-robot成员
5月26日 删除了label：ci-pipeline-failedapi-check-pass
CANN-robotCANN-robot成员
5月26日 添加了label：ci-pipeline-running
CANN-robot
CANN-robot成员
5月26日 评论：

流水线任务触发成功
任务链接 [7f62eb93fb304b3f9a111ea7282de58b][流水线指导]

任务名称状态日志下载链接
Compile_Ascend_X86 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_mobile_station ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental ✅ SUCCESS >>>>> >>>>>
Compile_Pre ✅ SUCCESS >>>>>
pre_comment ✅ SUCCESS >>>>>
Compile_Ascend_X86_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_X86_mobile_station_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_ARM_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_X86_experimental_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_ARM_experimental_ubuntu24 ✅ SUCCESS >>>>>
Compile_X86_monitor_910b ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_910c ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_950_ubuntu24 ✅ SUCCESS >>>>>
Compile_Ascend_ARM_experimental_950_ubuntu24 ✅ SUCCESS >>>>>
UT_Test ✅ SUCCESS
PreSmoke_A900 ✅ SUCCESS >>>>>
API_Check ✅ SUCCESS >>>>>
PreSmoke_ATK_Test_A2 ✅ SUCCESS >>>>>

[2026-05-26 16:59:03]    CI执行结束

likedislike
CANN-robot
CANN-robot成员
5月26日 评论：

流水线任务触发成功
任务链接 [4a963f3694664fa28ea1a747cecbab01][流水线指导]

任务名称状态日志下载链接
codecheck ✅ SUCCESS
SCA ✅ SUCCESS >>>>>
antipoison ✅ SUCCESS >>>>>
codecheck_style ✅ SUCCESS >>>>>
StaticCheck_codespell_check ✅ SUCCESS
StaticCheck_link_validity_check ✅ SUCCESS
StaticCheck_resource_existence_check ✅ SUCCESS
StaticCheck_tag_closed_check ✅ SUCCESS
StaticCheck_markdownlint ✅ SUCCESS
codecheck_checkpr ✅ SUCCESS
codecheck_precommit ⚠️ WARNING >>>>> >>>>>

[2026-05-26 16:53:26]    CI执行结束

likedislike
CANN-robotCANN-robot成员
5月26日 添加了label：api-check-pass
此处折叠了5条事件消息 查看更多
CANN-robotCANN-robot成员
5月27日 删除了label：ci-pipeline-passed
CANN-robot
CANN-robot成员
5月27日 评论：

Notification

This pull request source branch has changed, so removes the following label(s): ci-pipeline-passed.

likedislike
slj
slj成员
5月27日 评论：

compile

likedislike
sljslj成员
5月27日 update merge request[project id: 7673863, iid: 5941, commit_id: d3a4e579a85d5460c4979c08b12c5baa448dc413] virtual merging success
CANN-robotCANN-robot成员
5月27日 删除了label：api-check-pass
CANN-robotCANN-robot成员
5月27日 添加了label：ci-pipeline-running
CANN-robot
CANN-robot成员
5月27日 评论：

流水线任务触发成功
任务链接 [0a42e7bbbc124b398f77b2536aad18b9][流水线指导]

任务名称状态日志下载链接
Compile_Ascend_X86 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_mobile_station ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental ✅ SUCCESS >>>>> >>>>>
Compile_Pre ✅ SUCCESS >>>>>
pre_comment ✅ SUCCESS >>>>>
Compile_Ascend_X86_ubuntu24 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_mobile_station_ubuntu24 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_ubuntu24 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_ubuntu24 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental_ubuntu24 ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_910b ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_910c ✅ SUCCESS >>>>> >>>>>
Compile_X86_monitor_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental_950 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_X86_experimental_950_ubuntu24 ✅ SUCCESS >>>>> >>>>>
Compile_Ascend_ARM_experimental_950_ubuntu24 ✅ SUCCESS >>>>> >>>>>
UT_Test ✅ SUCCESS
PreSmoke_A900 ✅ SUCCESS >>>>>
API_Check ✅ SUCCESS >>>>>
PreSmoke_ATK_Test_A2 ✅ SUCCESS >>>>>

[2026-05-27 09:36:29]    CI执行结束

likedislike
CANN-robot
CANN-robot成员
5月27日 评论：

流水线任务触发成功
任务链接 [943425d362124bd9b479b44f996516ab][流水线指导]

任务名称状态日志下载链接
codecheck ✅ SUCCESS
SCA ✅ SUCCESS >>>>>
antipoison ✅ SUCCESS >>>>>
codecheck_style ✅ SUCCESS >>>>>
StaticCheck_codespell_check ✅ SUCCESS
StaticCheck_link_validity_check ✅ SUCCESS
StaticCheck_resource_existence_check ✅ SUCCESS
StaticCheck_tag_closed_check ✅ SUCCESS
StaticCheck_markdownlint ✅ SUCCESS
codecheck_checkpr ✅ SUCCESS
codecheck_precommit ⚠️ WARNING >>>>> >>>>>

[2026-05-27 09:23:37]    CI执行结束

likedislike
CANN-robotCANN-robot成员
5月27日 添加了label：api-check-pass
CANN-robotCANN-robot成员
5月27日 删除了label：ci-pipeline-running
CANN-robotCANN-robot成员
5月27日 添加了label：ci-pipeline-passed
於
於欣洁成员
5月27日 评论：

/lgtm
/approve

likedislike
CANN-robotCANN-robot成员
5月27日 添加了label：approved
C
chen-linxin4成员
5月27日 评论：

/lgtm
/approve

likedislike
CANN-robotCANN-robot成员
5月27日 添加了label：lgtm
CANN-robot
CANN-robot成员
5月27日 评论：

Review Guide

This pull-request passes review.
Committers who wrote a comment of /approve are: chen-linxin4, 於欣洁.
Reviewers who wrote a comment of /lgtm are: chen-linxin4, 於欣洁.

likedislike
CANN-robotCANN-robot成员
5月27日 关闭了关联的issue
CANN-robotCANN-robot成员
5月27日 合入了pull request