0
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
0
cann-robotcann-robot整改st目录下的atk用例统一目录格式
ff7f4e10创建于 16 天前历史提交
文件最后提交记录最后更新时间
docs
doc Tools扫描问题修改 Co-authored-by: gitee-yanglulu<yanglulul@h-partners.com> # message auto-generated for no-merge-commit merge: !3415 merge master into master doc Tools扫描问题修改 Created-by: gitee-yanglulu Commit-by: gitee-yanglulu Merged-by: cann-robot Description: doc Tools扫描问题修改 See merge request: cann/ops-transformer!34152 个月前
examples
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!5685 个月前
op_host
fix: MOE整改风险接口 GetAttrPointer<int>() Co-authored-by: guoqiuhao<guoqiuhao1@huawei.com> # message auto-generated for no-merge-commit merge: !2425 merge master into master fix: MOE整改风险接口 GetAttrPointer<int>() Created-by: guoqiuhao Commit-by: guoqiuhao Merged-by: cann-robot Description: ## 描述 MOE模块整改风险接口 GetAttrPointer<int>() ## 关联的Issue [#1111](https://gitcode.com/cann/ops-transformer/issues/1111) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!24252 个月前
op_kernel
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!5685 个月前
tests
整改st目录下的atk用例统一目录格式 Co-authored-by: yue-ma<mayue54@huawei.com> # message auto-generated for no-merge-commit merge: !5166 merge master into master 整改st目录下的atk用例统一目录格式 Created-by: yue-ma Commit-by: yue-ma Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 整改st目录下的atk用例统一目录格式 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/1538 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!516616 天前
CMakeLists.txt
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!5685 个月前
README.md
doc Tools扫描问题修改 Co-authored-by: gitee-yanglulu<yanglulul@h-partners.com> # message auto-generated for no-merge-commit merge: !3415 merge master into master doc Tools扫描问题修改 Created-by: gitee-yanglulu Commit-by: gitee-yanglulu Merged-by: cann-robot Description: doc Tools扫描问题修改 See merge request: cann/ops-transformer!34152 个月前
README.md

MoeTokenPermuteWithEpGrad

产品支持情况

产品 是否支持
Ascend 950PR/Ascend 950DT ×
Atlas A3 训练系列产品/Atlas A3 推理系列产品 √
Atlas A2 训练系列产品/Atlas A2 推理系列产品 √
Atlas 200I/500 A2 推理产品 ×
Atlas 推理系列产品 ×
Atlas 训练系列产品 ×

功能说明

算子功能：aclnnMoeTokenPermuteWithEp的反向传播计算。

计算公式：

sortedIndices=sortedIndices[rangeOptional[0]<=i<rangeOptional[1]]sortedIndices = sortedIndices[rangeOptional[0]<=i<rangeOptional[1]]

tokenGradOut=permutedTokensOutputGrad.indexSelect(0,sortedIndices)tokenGradOut = permutedTokensOutputGrad.indexSelect(0, sortedIndices)

tokenGradOut=tokenGradOut.reshape(−1,numTopk,hiddenSize)tokenGradOut = tokenGradOut.reshape(-1, numTopk, hiddenSize)

tokenGradOut=tokenGradOut.sum(dim=1)tokenGradOut = tokenGradOut.sum(dim = 1)

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
permutedTokensOutputGrad 输入 正向输出permutedTokens的梯度，公式中的`permutedTokensOutputGrad`。 BFLOAT16、FLOAT16、FLOAT32 ND
sortedIndices 输入 正向输出的permuteTokensOut和正向输入的tokens的映射关系，公式中的`sortedIndices`。 INT32 ND
permutedProbsOutputGradOptional 输入 可选计算输入，与计算输出probsGradOut对应，传入空则不输出probsGradOut。 BFLOAT16、FLOAT16、FLOAT32 ND
numTopk 属性 被选中的专家个数。 INT64 -
rangeOptional 属性 ep切分的有效范围。 aclIntArray -
paddedMode 属性 true表示开启paddedMode，false表示关闭paddedMode，目前仅支持false。 BOOL -
tokenGradOut 输出 输入token的梯度。 BFLOAT16、FLOAT16、FLOAT32 ND
probsGradOut 输出 输入probs的梯度。 FLOAT、FLOAT16、BFLOAT16 ND

约束说明

  • numTopk <= 512。
  • 不支持paddedMode为True。
  • 当rangeOptional为空时，忽略permutedProbsOutputGradOptional和probsGradOut，执行逻辑回退到aclnnMoeTokenPermuteGrad。

调用说明

调用方式 样例代码 说明
aclnn接口 test_aclnn_moe_token_permute_with_ep_grad.cpp 通过aclnnMoeTokenPermuteWithEpGrad接口方式调用MoeTokenPermuteWithEpGrad算子。