| Files | Last commit | Last update |
|---|---|---|
split小shape头开销优化 Co-authored-by: zhanglei842<zhanglei842@huawei.com> Co-authored-by: lihang_13123<lihang106@h-partners.com> # message auto-generated for no-merge-commit merge: !7169 merge master into master split小shape头开销优化 Created-by: zhanglei842 Commit-by: zhanglei842;lihang_13123 Merged-by: cann-robot Description: ## 描述 split/split_v/unpack(conversion 域,arch35)在小 shape 场景下,算子执行时间中 kernel 头开销占比过高: 三个算子的所有 tiling 模板统一使用完整的 SplitVTilingData(含 MAX_CORE_COUNT=72 的 nBlockSplitOffset/nBlockSplitOffsetEnd/nBlockSplitPrefixStart/nBlockSplitPrefixEnd 等数组字段),kernel 入口 GET_TILING_DATA 需整体反序列化,小 shape 模板实际只访问其中少数字段; kernel 入口与算子模板无差别构造 TPipe 并向模板注入 TPipe& pipe_、TQueBind 成员,小 shape 纯搬运/UB 内切分路径用不到队列机制; split_v kernel 入口残留未使用的 split_v_simt_chunk_pre.h include 与 TILING_KEY_SIMT_CHUNK(204) 定义(死代码)。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/4568 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7169 | 2 days ago | |
split小shape头开销优化 Co-authored-by: zhanglei842<zhanglei842@huawei.com> Co-authored-by: lihang_13123<lihang106@h-partners.com> # message auto-generated for no-merge-commit merge: !7169 merge master into master split小shape头开销优化 Created-by: zhanglei842 Commit-by: zhanglei842;lihang_13123 Merged-by: cann-robot Description: ## 描述 split/split_v/unpack(conversion 域,arch35)在小 shape 场景下,算子执行时间中 kernel 头开销占比过高: 三个算子的所有 tiling 模板统一使用完整的 SplitVTilingData(含 MAX_CORE_COUNT=72 的 nBlockSplitOffset/nBlockSplitOffsetEnd/nBlockSplitPrefixStart/nBlockSplitPrefixEnd 等数组字段),kernel 入口 GET_TILING_DATA 需整体反序列化,小 shape 模板实际只访问其中少数字段; kernel 入口与算子模板无差别构造 TPipe 并向模板注入 TPipe& pipe_、TQueBind 成员,小 shape 纯搬运/UB 内切分路径用不到队列机制; split_v kernel 入口残留未使用的 split_v_simt_chunk_pre.h include 与 TILING_KEY_SIMT_CHUNK(204) 定义(死代码)。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/4568 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7169 | 2 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 2 days ago | ||
| 2 days ago |