文件最后提交记录最后更新时间
【合入说明】lig支持eod Co-authored-by: mufei_L<luomufei1@huawei.com> # message auto-generated for no-merge-commit merge: !5356 merge master into master 【合入说明】lig支持eod Created-by: mufei_L Commit-by: mufei_L Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> lig支持eod ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [lig算子支持eod功能](https://gitcode.com/cann/ops-transformer/issues/2506) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!535615 天前
Bugfix for LIG over large S2 case Co-authored-by: DaiHN<daihuina1@huawei.com> # message auto-generated for no-merge-commit merge: !2518 merge bugfix310lig into master Bugfix for LIG over large S2 case Created-by: DaiHuina1 Commit-by: DaiHN Merged-by: cann-robot Description: **问题/功能描述** 本次PR主要修复了LightningIndexerGrad算子在确定性模式下的梯度计算错误,并优化了其内存处理逻辑。核心问题包括:1)tiling计算中dkCoreSize参数错误地包含了batch维度,导致工作空间分配错误;2)确定性合并后,对每个核心的局部工作空间(dkCoreWorkspace)的清理逻辑使用了错误的偏移量,可能造成计算结果污染;3)确定性合并函数一次性处理过大数据块,存在超出统一缓冲区(UB)容量的风险。 **修改方案描述** 修改方案包含三个关键部分:1)修正tiling计算,将dkCoreSize的计算公式从batch * seqlenK * headDim更正为seqlenK * headDim,并同步更新了工作空间偏移计算中使用的核数变量。2)在内核中,基于新增的dkCoreSize字段,统一并修正了dkCoreWorkspace的访问与清理逻辑,确保每个核心正确清零其对应的局部空间。3)重构了确定性合并函数,引入分块处理机制,根据UB容量动态计算每次处理的数据行数,避免了潜在的缓冲区溢出风险。此外,在相关数据结构和头文件中新增了dkCoreSize成员以支持上述修正。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!25182 个月前
Performance Optimization Implementation of Lightning Indexer Grad After Enabling Determinism Co-authored-by: DaiHN<daihuina1@huawei.com> # message auto-generated for no-merge-commit merge: !2987 merge 320ops into master Performance Optimization Implementation of Lightning Indexer Grad After Enabling Determinism Created-by: DaiHuina1 Commit-by: DaiHN Merged-by: cann-robot Description: ## 描述 **问题/功能描述** 本次PR主要修复了LightningIndexerGrad算子中的两个关键问题。首先,修复了变量dkCoreSize在不同输入布局(BSND和TND)下初始化位置不当导致的潜在逻辑错误,该错误可能引发内存访问越界或计算结果错误。其次,修复了在确定性计算模式下,向量核心处理流程中内存初始化与同步的顺序问题,原代码错误地清除了核心工作区数据,可能导致后续计算出现未定义行为。 **修改方案描述** 修改方案分为两部分。第一,将dkCoreSize变量的声明提前,并确保其在BSND和TND两个布局分支中都能根据各自的数据形状被正确计算和赋值,从而保证后续工作空间偏移量计算的正确性。第二,调整了确定性模式下的处理逻辑:将核心工作区的初始化操作提前至ScatterAdd操作之前,并移除了在DeterministicMerge操作后对同一内存区域的错误清零;同时调整了同步操作的时序,并新增了InitOutputDkcoreGm函数来为每个计算核心独立初始化其梯度工作空间,确保了内存访问的安全性和计算结果的正确性。 | [b, s1, s2, layout] | 优化前/ms | 优化后/ms | 关闭确定性 | |--|--|--|--| | [32, 2262, 6034, TND] | 7202.1 | 1122.7 | 1211.1 | | [32, 2, 14994, TND] | 168.5 | 14.76 | 10.7 | | [31, 80, 13563, TND] | 582.9 | 71.56 | 37.8 | | [15, 18, 31748, TND] | 84.8 | 15.87 | 5.6 | | [30, 4037, 4041, TND] | 8274.9 | 2099 | 2023.6 | | [9, 29, 31303, TND] | 18.5 | 12.5 | 5.7 | ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!29872 个月前
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!5685 个月前
【合入说明】lig支持eod Co-authored-by: mufei_L<luomufei1@huawei.com> # message auto-generated for no-merge-commit merge: !5356 merge master into master 【合入说明】lig支持eod Created-by: mufei_L Commit-by: mufei_L Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> lig支持eod ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [lig算子支持eod功能](https://gitcode.com/cann/ops-transformer/issues/2506) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!535615 天前
lig support N <= 64 Co-authored-by: xuanyuandy<dingyong19@huawei.com> # message auto-generated for no-merge-commit merge: !5365 merge master_lig into master lig support N <= 64 Created-by: xuanyuandy Commit-by: xuanyuandy Merged-by: cann-robot Description: ## 描述 lig support N <= 64 ## 关联的Issue 关联issue[2456](https://gitcode.com/cann/ops-transformer/issues/2456) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [.] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!536515 天前
lig support N <= 64 Co-authored-by: xuanyuandy<dingyong19@huawei.com> # message auto-generated for no-merge-commit merge: !5365 merge master_lig into master lig support N <= 64 Created-by: xuanyuandy Commit-by: xuanyuandy Merged-by: cann-robot Description: ## 描述 lig support N <= 64 ## 关联的Issue 关联issue[2456](https://gitcode.com/cann/ops-transformer/issues/2456) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [.] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!536515 天前
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!5685 个月前
Bugfix for Overflow issue in type declaration of LIG Co-authored-by: DaiHN<daihuina1@huawei.com> # message auto-generated for no-merge-commit merge: !3587 merge 331 into master Bugfix for Overflow issue in type declaration of LIG Created-by: DaiHuina1 Commit-by: DaiHN Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!35872 个月前