| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
torch extension整改成分布式 Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !9712 merge torch_extension_split into master torch extension整改成分布式 Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 ops-transformer仓支持各个算子独立编译torch_extention,并将torch_extension从集中式改成分布式(算子的文件分布到算子源码目录下新建的torch_extension文件夹) ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4502 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9712 | 2 个月前 | |
torch extension整改成分布式 Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !9712 merge torch_extension_split into master torch extension整改成分布式 Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 ops-transformer仓支持各个算子独立编译torch_extention,并将torch_extension从集中式改成分布式(算子的文件分布到算子源码目录下新建的torch_extension文件夹) ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4502 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9712 | 2 个月前 | |
【feat】mhc_pre算子支持batch一致性 文档修改 补充UT Co-authored-by: hyhhh14<huangyuehua6@huawei.com> # message auto-generated for no-merge-commit merge: !9942 merge mhc_pre_batch into master 【feat】mhc_pre算子支持batch一致性 文档修改 补充UT Created-by: hyhhh14 Commit-by: hyhhh14 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新支持功能 新增支持batch一致性,当用户将确定性等级设置为 3 时,MhcPre 开启 Batch 一致性模式: torch_npu 接口:调用:torch_npu.npu.set_deterministic_level(3) aclnnMhcPre 和 aclnnMhcPreV2 共用同一套 tiling 逻辑,因此两套接口都支持该能力。 解决的问题 MhcPre 原有 tiling 会根据输入 shape 在 SPLIT_M_K、SPLIT_ND 和 SPLIT_BS 之间选择。 开启 deterministic_level=3 后,算子固定使用 SPLIT_BS,使 Batch 方向采用稳定的计算和累加顺序,从而满足 Batch 一致性场景的要求。 相关tiling代码修改在PR:https://gitcode.com/cann/ops-transformer/pull/9243/diffs  ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> Issue [#4421](https://gitcode.com/cann/ops-transformer/issues/4421) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> batch一致性测试,UT测试   ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新aclnn文档,增加batch一致性说明 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9942 | 2 个月前 | |
trans仓打标签合入 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !9424 merge master into master trans仓打标签合入 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 ffn gmm mamba / causal_conv1d mc2 mhc这5个仓的aclnn文档 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 ffn gmm mamba / causal_conv1d mc2 mhc ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9424 | 3 个月前 | |
MhcPreSinkhorn ascend950支持tnd格式 Co-authored-by: taochangmin<taochangmin@huawei.com> # message auto-generated for no-merge-commit merge: !10272 merge mhc_tnd into master MhcPreSinkhorn ascend950支持tnd格式 Created-by: taochangmin Commit-by: taochangmin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> MhcPreSinkhorn支持tnd格式,原来输入为(b,s,n,d)格式,新增支持(t,n,d) ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4593 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10272 | 2 个月前 | |
mhcPreSinkhornBackward A2确定性tilingKey设置错误 Co-authored-by: renruhai<renruhai1@huawei.com> # message auto-generated for no-merge-commit merge: !10358 merge master into master mhcPreSinkhornBackward A2确定性tilingKey设置错误 Created-by: renruhai Commit-by: renruhai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> mhcPreSinkhornBackward A2确定性tilingKey设置错误,导致走不进确定性分支 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 确定性测试成功,确定性精度测试成功 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10358 | 2 个月前 | |
fix(mhc_sinkhorn): extract CheckNotNull and move to GetWorkspaceSize Co-authored-by: ZhouChuping<24171214023@stu.xidian.edu.cn> # message auto-generated for no-merge-commit merge: !9842 merge mhc_sinkhorn功能问题修复 into master fix(mhc_sinkhorn): extract CheckNotNull and move to GetWorkspaceSize Created-by: qq_52056150 Commit-by: ZhouChuping Merged-by: cann-robot Description: ## 描述 修正校验逻辑,保证x、output、workspaceSize、executor 非空后再执行后续逻辑。 ### 根因 对于x的判空位于x的使用之后,导致还没判空就取值,当x为nullptr时导致coredump ### 修复 重组校验逻辑,保证校验位于使用之前 ### 验证 修复后复跑问题用例无异常。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4483 ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述 ## AI/Agent 生成声明 代码来源: - [ ] 纯人工手写 - [x] AI 辅助编写 - [ ] AI 完全生成 人工审查:已完成 测试验证:已通过 合规检查:已完成 See merge request: cann/ops-transformer!9842 | 2 个月前 | |
修复MhcSinkhornBackward算子UB越界写问题 Co-authored-by: SimonZzz<zhouquan79@huawei.com> # message auto-generated for no-merge-commit merge: !10369 merge fix/mhc_sinkhorn_backward_ub_oob_master into master 修复MhcSinkhornBackward算子UB越界写问题 Created-by: qq_52056150 Commit-by: SimonZzz Merged-by: cann-robot Description: ## 描述 修复MhcSinkhornBackward算子在Ascend950上的UB越界写和未初始化读问题。 ### 根因 CopyInNormAndSumPad中DataCopyPad按[nSize_][AlignUp(perloopSize,8)]布局写入sum数据,但inputSumQue_缓冲区仅按flat布局[tUbFactor*nAlignSize_]分配容量。 当perloopSize % 8 != 0且nSize_ > perloopSize时(如perloopSize=3, nSize_=4),Pad路径写入128字节但仅分配96字节,越界32字节覆盖相邻outputQue_缓冲区,引发uninitialized read。 ### 修复 1. **kernel侧**(mhc_sinkhorn_backward_simd.h):inputSumQue_容量取max(flatSize, padSize) 2. **tiling侧**(mhc_sinkhorn_base_tiling.cpp):BackwardCalOccupySize中sumOutSize同步修正 ### 验证 - sanitizer复现:修复前WAW at UB 0x820(越界写),137个错误 - 修复后:WAW at 0x820已消除(地址移至0x840,新buffer边界) - 编译/安装/运行均成功 - UB增加64字节(+2.4%),blockDim/tiling key/route无变化 - 18组边界用例回归:17 PASS(1个预存NaN问题,原始代码同样存在) - 25个UT全部PASS - master与9.1.0代码完全一致,同一bug两个分支均存在 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4282 ## 测试 - [x] sanitizer编译+运行验证 - [x] 原始问题用例复现+修复后验证 - [x] 多组shape边界用例回归 - [x] UT测试回归(25/25 PASS) ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述 ## AI/Agent 生成声明 代码来源: - [ ] 纯人工手写 - [x] AI 辅助编写 - [ ] AI 完全生成 人工审查:已完成 测试验证:已通过 合规检查:已完成 See merge request: cann/ops-transformer!10369 | 2 个月前 | |
修复MhcSinkhornBackward算子UB越界写问题 Co-authored-by: SimonZzz<zhouquan79@huawei.com> # message auto-generated for no-merge-commit merge: !10369 merge fix/mhc_sinkhorn_backward_ub_oob_master into master 修复MhcSinkhornBackward算子UB越界写问题 Created-by: qq_52056150 Commit-by: SimonZzz Merged-by: cann-robot Description: ## 描述 修复MhcSinkhornBackward算子在Ascend950上的UB越界写和未初始化读问题。 ### 根因 CopyInNormAndSumPad中DataCopyPad按[nSize_][AlignUp(perloopSize,8)]布局写入sum数据,但inputSumQue_缓冲区仅按flat布局[tUbFactor*nAlignSize_]分配容量。 当perloopSize % 8 != 0且nSize_ > perloopSize时(如perloopSize=3, nSize_=4),Pad路径写入128字节但仅分配96字节,越界32字节覆盖相邻outputQue_缓冲区,引发uninitialized read。 ### 修复 1. **kernel侧**(mhc_sinkhorn_backward_simd.h):inputSumQue_容量取max(flatSize, padSize) 2. **tiling侧**(mhc_sinkhorn_base_tiling.cpp):BackwardCalOccupySize中sumOutSize同步修正 ### 验证 - sanitizer复现:修复前WAW at UB 0x820(越界写),137个错误 - 修复后:WAW at 0x820已消除(地址移至0x840,新buffer边界) - 编译/安装/运行均成功 - UB增加64字节(+2.4%),blockDim/tiling key/route无变化 - 18组边界用例回归:17 PASS(1个预存NaN问题,原始代码同样存在) - 25个UT全部PASS - master与9.1.0代码完全一致,同一bug两个分支均存在 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4282 ## 测试 - [x] sanitizer编译+运行验证 - [x] 原始问题用例复现+修复后验证 - [x] 多组shape边界用例回归 - [x] UT测试回归(25/25 PASS) ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述 ## AI/Agent 生成声明 代码来源: - [ ] 纯人工手写 - [x] AI 辅助编写 - [ ] AI 完全生成 人工审查:已完成 测试验证:已通过 合规检查:已完成 See merge request: cann/ops-transformer!10369 | 2 个月前 | |
新增 mhcPost 算子 Co-authored-by: wuyewei<wuyewei@huawei.com> # message auto-generated for no-merge-commit merge: !2024 merge kernel_manual into master 新增 mhcPost 算子 Created-by: wuyewei Commit-by: wuyewei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增支持 mhcPost 算子 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/1148 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 进行了验证包括: [x] 二级冒烟 [x] 算子白盒用例 [x] 算子泛化用例 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了docs/zh/op_list.md、docs/zh/op_list.md文件,新增mhc/mhc_post/README.md、mhc/mhc_post/docs/aclnnMhcPost.md文件。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!2024 | 8 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 3 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 8 个月前 |