| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix:align_L2_DFX_PHASE_1_params Co-authored-by: doufloat<baijinxiang@huawei.com> # message auto-generated for no-merge-commit merge: !11963 merge dts into master fix:align_L2_DFX_PHASE_1_params Created-by: doufloat Commit-by: doufloat Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 1. 问题背景 本次处理问题单中的以下检查项： - ID 2： aclnnFlashAttentionScoreV4 - ID 17：aclnnFFN - ID 18：aclnnFFNV2 - ID 19：aclnnFFNV3 官方宏说明： <https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1052.html> 官方约束要求 L2_DFX_PHASE_1 在 aclnn 的一阶段接口 aclnnXxxGetWorkspaceSize 最前方调用， 并且 DFX_IN/DFX_OUT 中的内容必须与接口参数列表严格一致，包括参数个数、顺序和参数表达形式。 ## 2. 结论 ID 2、17、18、19 均为确定问题。 | ID | API | 问题 | 处理方式 | | --- | --- | --- | --- | | 2 | aclnnFlashAttentionScoreV4 | 缺少 softmaxOutLayout | 在 pseType 与 seed 之间补齐 | | 17 | aclnnFFN | 使用 ffnParams.*，并多传 -1, false | 改为接口形参，删除多余参数 | | 18 | aclnnFFNV2 | 使用 ffnParams.*，并多传 -1 | 改为接口形参，保留 tokensIndexFlag，删除 -1 | | 19 | aclnnFFNV3 | 使用 ffnParams.* 和错误的可选参数名，并多传 -1 | 改为 xxxOptional 接口形参，保留 tokensIndexFlag，删除 -1 | ffnParams.x 与 x 在运行时数值等价，但 DFX 检查要求与接口形参严格一致；同时 -1 和 false 是实际多余参数，会造成 DFX 参数元组基数与接口不一致。 ## 3. 修改设计 ### 3.1 修改文件 - attention/flash_attention_score/op_api/aclnn_flash_attention_score.cpp - ffn/ffn/op_host/op_api/aclnn_ffn.cpp ### 3.2 aclnnFlashAttentionScoreV4 将 DFX 输入参数补齐为： cpp DFX_IN(query, key, value, realShiftOptional, dropMaskOptional, paddingMaskOptional, attenMaskOptional, queryRopeOptional, keyRopeOptional, dScaleQOptional, dScaleKOptional, dScaleVOptional, sinkOptional, prefixOptional, actualSeqQLenOptional, actualSeqKvLenOptional, qStartIdxOptional, kvStartIdxOptional, scaleValue, keepProb, preTokens, nextTokens, headNum, inputLayout, innerPrecise, sparseMode, outDtype, pseType, softmaxOutLayout, seed, offset) ### 3.3 aclnnFFN 改为接口形参，并删除不属于 aclnn 接口的 -1, false： cpp DFX_IN(x, weight1, weight2, expertTokens, bias1, bias2, scale, offset, deqScale1, deqScale2, antiquantScale1, antiquantScale2, antiquantOffset1, antiquantOffset2, activation, innerPrecise), DFX_OUT(y) ### 3.4 aclnnFFNV2 改为接口形参，保留 tokensIndexFlag，删除多余的 -1： cpp DFX_IN(x, weight1, weight2, expertTokens, bias1, bias2, scale, offset, deqScale1, deqScale2, antiquantScale1, antiquantScale2, antiquantOffset1, antiquantOffset2, activation, innerPrecise, tokensIndexFlag), DFX_OUT(y) ### 3.5 aclnnFFNV3 改为接口中的 xxxOptional 形参，保留 tokensIndexFlag，删除多余的 -1： cpp DFX_IN(x, weight1, weight2, expertTokensOptional, bias1Optional, bias2Optional, scaleOptional, offsetOptional, deqScale1Optional, deqScale2Optional, antiquantScale1Optional, antiquantScale2Optional, antiquantOffset1Optional, antiquantOffset2Optional, activation, innerPrecise, tokensIndexFlag), DFX_OUT(y) ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联Issue [#4930](https://gitcode.com/cann/ops-transformer/issues/4930) <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11963 | 8 天前 | |
修复mla_preprocess使用__has_include && 修复test_geir_ffn_worker_batching.cpp空指针解引用 Co-authored-by: ww-blue<wangwei1274@huawei.com> # message auto-generated for no-merge-commit merge: !11807 merge issue into master 修复mla_preprocess使用__has_include && 修复test_geir_ffn_worker_batching.cpp空指针解引用 Created-by: ww-blue Commit-by: ww-blue Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修复mla_preprocess使用__has_include && 修复test_geir_ffn_worker_batching.cpp空指针解引用 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue [#4773](https://gitcode.com/cann/ops-transformer/issues/4773) 关联Issue #4952 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11807 | 10 天前 | |
docs(ffn_worker_scheduler): 修正调用示例内存拷贝方向 Co-authored-by: zhaowenrui666<zhaowenrui7@huawei.com> # message auto-generated for no-merge-commit merge: !11434 merge 0905 into master docs(ffn_worker_scheduler): 修正调用示例内存拷贝方向 Created-by: zhaowenrui666 Commit-by: zhaowenrui666 Merged-by: cann-robot Description: ## 描述 修正 aclnnInplaceFfnWorkerScheduler接口文档调用示例中的内存拷贝方向。 示例中的源地址&schedule_context和目标地址selfHostData.data()均为Host内存，原代码错误使用ACL_MEMCPY_DEVICE_TO_HOST，在严格校验内存类型的Runtime环境中可能导致aclrtMemcpy失败。本次将其改为ACL_MEMCPY_HOST_TO_HOST，并与仓库独立example保持一致。 ## 关联的Issue 关联Issue #5054 ## 测试 1. 修改前执行错误拷贝方向检查，检查失败并定位到文档第613行；修改后检查通过。 2. 从文档中提取完整C++调用示例，使用CANN 9.2相关头文件和动态库编译成功。 3. 在Ascend910_93/A3设备上运行示例成功，进程退出码为0；输出的layer、session、micro batch和expert信息符合预期。 4. 设置ASCEND_GLOBAL_LOG_LEVEL=0检查DEBUG日志，ACL和AICPU日志中未发现[ERROR]。 5. pre-commit run --files ffn/ffn_worker_scheduler/docs/aclnnInplaceFfnWorkerScheduler.md检查通过。 ## 文档更新 更新ffn/ffn_worker_scheduler/docs/aclnnInplaceFfnWorkerScheduler.md中的调用示例。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11434 | 13 天前 | |
修复mla_preprocess使用__has_include && 修复test_geir_ffn_worker_batching.cpp空指针解引用 Co-authored-by: ww-blue<wangwei1274@huawei.com> # message auto-generated for no-merge-commit merge: !11807 merge issue into master 修复mla_preprocess使用__has_include && 修复test_geir_ffn_worker_batching.cpp空指针解引用 Created-by: ww-blue Commit-by: ww-blue Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修复mla_preprocess使用__has_include && 修复test_geir_ffn_worker_batching.cpp空指针解引用 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue [#4773](https://gitcode.com/cann/ops-transformer/issues/4773) 关联Issue #4952 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11807 | 10 天前 | |
pre-commit修复posembedding、mhc、ffn等目录.h/.hpp历史格式问题 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11021 merge fix_3 into master pre-commit修复posembedding、mhc、ffn等目录.h/.hpp历史格式问题 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理，为后续功能改动（如 Regbase API 替换等）扫清钩子障碍，避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式： find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files，多轮执行直到所有 hook 收敛（无 Failed / 无自动修复）。 修复内容（仅格式，不改任何代码语义）： - 尾随空白（trailing whitespace） - 文件末尾换行（end of file） - clang-format 代码重排（换行、缩进、对齐，遵循仓内 .clang-format） ### 排除范围（不做格式化） - *_def.cpp 算子定义文件（排版由开发者自行维护，另见 PR #11041） - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件（排版由开发者自行维护） - mamba/ 目录（该目录 causal_conv1d 算子 UT 上游基线存在失败，见 Issue #4840，本批不涉及） - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件，按场景目录拆分为 6 个 PR（分支不同、内容互不重叠，可独立 review 合入）： | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批（按算子字母序前段） | | #10422 | graph | attention 第2批（按算子字母序中段） | | #9331 | test | attention 第3批（按算子字母序后段） | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动：不改变任何代码语义，逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证：多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!11021 | 22 天前 | |
fix(swin_transformer_ln_qkv_quant): free all tensors in example Co-authored-by: zhengyuhao3<zhengyuhao3@huawei.com> # message auto-generated for no-merge-commit merge: !11737 merge master-swin-leak into master fix(swin_transformer_ln_qkv_quant): free all tensors in example Created-by: zhengyuhao3 Commit-by: zhengyuhao3 Merged-by: cann-robot Description: ## 描述 修复swin_transformer_ln_qkv_quant的example文件中创建的张量未释放导致内存泄漏问题 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4803 ## 测试 本地example执行验证功能正常 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11737 | 13 天前 | |
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!568 | 8 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 8 天前 | ||
| 10 天前 | ||
| 13 天前 | ||
| 10 天前 | ||
| 22 天前 | ||
| 13 天前 | ||
| 8 个月前 |