Fork
0
代码
介绍
代码
Issues
Pull Requests
流水线
Actions
讨论
Wiki
项目成员
分析
项目设置
Fork
0
2fb644d4a0417c15995a9c09f71888f2604cfd00
ops-transformer
/
posembedding
/
rotary_position_embedding
/
op_kernel
下载当前目录
cann-robot
fix(rotary_position_embedding): fix uint16 overflow caused by oversized stride on 310p
efb0ba3a
创建于
3月24日
历史提交
文件
最后提交记录
最后更新时间
arch35
同步rotary_position_embedding和attention_update优化修改 Co-authored-by: 张磊<zhanglei121@huawei.com> # message auto-generated for no-merge-commit merge:
!1037
merge master into master 同步rotary_position_embedding和attention_update优化修改 Created-by: zl_hw Commit-by: 张磊 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!1037
3 个月前
rotary_position_embedding.cpp
rope half mode supports 310p. Co-authored-by: yu-xinjie62<yuxinjie1@huawei.com> # message auto-generated for no-merge-commit merge:
!1396
merge feature/rope_310p into master rope half mode supports 310p. Created-by: yu-xinjie62 Commit-by: yu-xinjie62 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> rope算子在mode = half模式下,310p下支持对齐场景运算。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。-->
https://gitcode.com/cann/ops-transformer/issues/949
## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 针对算子泛化全场景,设计5000个泛化case,已全部验证通过。 原冒烟case也均通过:  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!1396
2 个月前
rotary_position_embedding_apt.cpp
ROPE 修复kernel侧拦截问题 Co-authored-by: yiqiao-wjp<wangjianping48@huawei.com> Co-authored-by: lilening<lilening@huawei.com> # message auto-generated for no-merge-commit merge:
!2100
merge master into master ROPE 修复kernel侧拦截问题 Created-by: yiqiao-wjp Commit-by: lilening;yiqiao-wjp Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ROPE 修复kernel侧拦截问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。-->
https://gitcode.com/cann/ops-transformer/issues/958
## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!2100
2 个月前
rotate_half.h
fix(rotary_position_embedding): fix uint16 overflow caused by oversized stride on 310p Co-authored-by: yu-xinjie62<yuxinjie1@huawei.com> # message auto-generated for no-merge-commit merge:
!2536
merge bugfix/rope_310p into master fix(rotary_position_embedding): fix uint16 overflow caused by oversized stride on 310p Created-by: yu-xinjie62 Commit-by: yu-xinjie62 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 在Ascend 310P平台上,RoPE算子当输入stride参数数值超过uint16类型最大值(65535)时,会发生整数溢出,引发算子计算结果异常、运行崩溃等问题。 算子底层实现中,stride相关参数采用uint16类型进行存储与地址偏移计算;当业务场景下stride数值超出65535时,会发生无符号整数回卷溢出,导致计算逻辑错误,最终引发算子输出异常。 修复方案: 1. 算子逻辑修复:针对Ascend 310P平台,新增stride参数范围校验与溢出防护逻辑,拦截超出uint16取值范围的非法输入,避免异常数值进入底层计算; 2. 文档补充:在算子官方说明资料中,新增Ascend 310P平台下的stride参数取值范围限制条件,明确使用约束。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> 关联Issue [
#1392
](
https://gitcode.com/cann/ops-transformer/issues/1392)
## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 【功能验证】在310P平台完成全场景测试:uint16合法范围内输入计算正常、临界值(65535)无异常、超范围输入可触发明确报错,无溢出问题; - 【兼容性验证】原有合法输入场景下,算子计算精度、性能无劣化,与修复前结果完全一致; - 【文档验证】补充的限制条件已同步至对应资料,描述准确无歧义,符合算子文档规范。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了aclnnRotaryPositionEmbedding.md文档。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer
!2536
2 个月前
rotate_half_base.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_half_bf16.h
fix(rotary_position_embedding): fix uint16 overflow caused by oversized stride on 310p Co-authored-by: yu-xinjie62<yuxinjie1@huawei.com> # message auto-generated for no-merge-commit merge:
!2536
merge bugfix/rope_310p into master fix(rotary_position_embedding): fix uint16 overflow caused by oversized stride on 310p Created-by: yu-xinjie62 Commit-by: yu-xinjie62 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 在Ascend 310P平台上,RoPE算子当输入stride参数数值超过uint16类型最大值(65535)时,会发生整数溢出,引发算子计算结果异常、运行崩溃等问题。 算子底层实现中,stride相关参数采用uint16类型进行存储与地址偏移计算;当业务场景下stride数值超出65535时,会发生无符号整数回卷溢出,导致计算逻辑错误,最终引发算子输出异常。 修复方案: 1. 算子逻辑修复:针对Ascend 310P平台,新增stride参数范围校验与溢出防护逻辑,拦截超出uint16取值范围的非法输入,避免异常数值进入底层计算; 2. 文档补充:在算子官方说明资料中,新增Ascend 310P平台下的stride参数取值范围限制条件,明确使用约束。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> 关联Issue [
#1392
](
https://gitcode.com/cann/ops-transformer/issues/1392)
## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 【功能验证】在310P平台完成全场景测试:uint16合法范围内输入计算正常、临界值(65535)无异常、超范围输入可触发明确报错,无溢出问题; - 【兼容性验证】原有合法输入场景下,算子计算精度、性能无劣化,与修复前结果完全一致; - 【文档验证】补充的限制条件已同步至对应资料,描述准确无歧义,符合算子文档规范。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了aclnnRotaryPositionEmbedding.md文档。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer
!2536
2 个月前
rotate_interleaved_common.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_interleaved_split_bs.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_interleaved_split_bs_pad.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_interleaved_split_bsn.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_interleaved_split_bsn_pad.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_interleaved_split_s.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_interleaved_split_s_pad.h
更新license Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge:
!568
merge lic into master 更新license Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 更新license <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!568
5 个月前
rotate_matrix.h
ROPE 修复kernel侧拦截问题 Co-authored-by: yiqiao-wjp<wangjianping48@huawei.com> Co-authored-by: lilening<lilening@huawei.com> # message auto-generated for no-merge-commit merge:
!2100
merge master into master ROPE 修复kernel侧拦截问题 Created-by: yiqiao-wjp Commit-by: lilening;yiqiao-wjp Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ROPE 修复kernel侧拦截问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue
#000
--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。-->
https://gitcode.com/cann/ops-transformer/issues/958
## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer
!2100
2 个月前