| add fused operator finalRouting
Co-authored-by: slj02<songlijie1@huawei.com>
# message auto-generated for no-merge-commit merge:
!5941 merge feat/FinalRouting into master
add fused operator finalRouting
Created-by: slj02
Commit-by: slj02
Merged-by: cann-robot
Description: ## 描述
<!--在这里详细描述你的改动,包括改动的原因和所采取的方法。-->
新增最终路由算子FinalRouting
对于每个Token t:
$$
out[t] = \sum_{e} \big(in[token\_table[t, e]] \cdot score\_table[t, e]\big)
$$
## 关联的Issue
<!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000-->
<!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。-->
关联Issue [#2692](https://gitcode.com/cann/ops-transformer/issues/2692)
## 测试
<!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。-->
测试脚本中测试了NPU和CPU的计算结果对比
## 文档更新
<!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。-->
PR中包含一个README.md新增
## 类型标签
<!-- [x] 表示选中 -->
- [ ] 🐛 Bug 修复
- [x] ✨ 新特性
- [ ] ⚡ 性能优化
- [ ] ♻️ 重构
- [ ] 🧪 测试
- [ ] 📦 构建/CI
- [ ] 🔧 配置变更
- [ ] 📝 文档更新
- [ ] ⬆️ 依赖升级
- [ ] 🔒 安全修复
- [ ] 🧹 代码清理
- [ ] ❓ 其他,请描述:
See merge request: cann/ops-transformer!5941 | 6 天前 |