| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix: Remove unnecessary workspace for embedding_hash_table_import/embedding_hash_table_apply_adam_w/embedding_hash_table_lookup_or_insert Co-authored-by: yifangao<gaoyifan20@huawei.com> # message auto-generated for no-merge-commit merge: !9860 merge workspace-remove-1 into master fix: Remove unnecessary workspace for embedding_hash_table_import/embedding_hash_table_apply_adam_w/embedding_hash_table_lookup_or_insert Created-by: yifangao Commit-by: yifangao Merged-by: cann-robot Description: ## 描述 embedding_hash_table_import、embedding_hash_table_apply_adam_w 和 embedding_hash_table_lookup_or_insert 算子未实际使用 workspace，但原实现仍为每个算子申请了 16 MiB workspace，并在 kernel 入口执行了 workspace 判空及初始化。 本次修改： - 将上述 3 个算子的 workspace 大小由 16 MiB 调整为 0，避免不必要的内存申请。 - 删除 kernel 中未使用的 workspace 判空、SetSysWorkspace/GetUserWorkspace 调用以及相关参数传递。 - 统一 workspace 常量命名，并补充文件末尾换行。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6122 ## 测试 David冒烟：http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260922_115543988 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!9860 | 9 小时前 | |
feat(hash): add embedding_hash_table_evict operator Co-authored-by: clinglai0517<laichangling@huawei.com> # message auto-generated for no-merge-commit merge: !10134 merge migrate-hash-evict into master feat(hash): add embedding_hash_table_evict operator Created-by: clinglai0517 Commit-by: clinglai0517 Merged-by: cann-robot Description: ## 描述 新增 hash 表驱逐算子 EmbeddingHashTableEvict（仅支持 Ascend 950PR/950DT，arch35）。 ### 算子功能 对输入的 key 序列，在线性探测哈希表中定位对应桶，若未标记 evicted 则： - 置位 EVICTED 标志（bit3） - 计数器清零 - 递减 handle 中的两个 size 计数（size_all / size_all_noexport） - 按 init_mode 重新初始化 value（constant / random） ### 参数 - 输入：table_handle(INT64)、keys(INT64)、sampled_values(FLOAT, 可选) - 属性：table_cap、embedding_dim、init_mode、const_val ## 变更内容 - 新增完整算子目录 hash/embedding_hash_table_evict/（16 个文件）： - op_graph（proto） - op_host（def / infershape / arch35 tiling / ascend950 binary json） - op_kernel（aicore kernel，AIV_ONLY，复用 common/inc/op_kernel/hashtable_common.h 的 Hashtbl::MurmurHash3） - tests（infershape UT + tiling UT） ## 关联的Issue Issue #5710 ## 测试 - 宿主代码编译：通过 - kernel 编译（--opkernel --soc=ascend950）：通过 - infershape UT：3/3 通过 - tiling UT：1/1 通过 ## 文档更新 新增embedding_hash_table_evict 算子的README.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!10134 | 10 小时前 | |
bn_infer等26个算子新增ascend350平台支持 Co-authored-by: Developer user<zhuzixian1@h-partners.com> # message auto-generated for no-merge-commit merge: !10255 merge ascend350_adapt_w2 into master bn_infer等26个算子新增ascend350平台支持 Created-by: zhuzixian-lr Commit-by: Developer user Merged-by: cann-robot Description: ## 描述 26个算子新增ascend350平台支持：foreach_mul_scalar、foreach_sqrt、foreach_addcmul_scalar、foreach_div_scalar_list、foreach_lerp_scalar、foreach_norm、bn_infer、apply_adagrad_d、apply_gradient_descent、apply_adam、apply_adam_w_v2、embedding_hash_table_apply_adam_w、embedding_hash_table_export、embedding_hash_table_import、embedding_hash_table_lookup_or_insert、init_embedding_hash_table、binary_cross_entropy、sigmoid_cross_entropy_with_logits_v2、binary_cross_entropy_grad、l2_loss、nll_loss、nll_loss_grad、sparse_softmax_cross_entropy_with_logits、softmax_cross_entropy_with_logits、swiglu_group_quant、swi_glu。 修改模式（350与ascend950完全同配，两者同为 DAV_3510，走同一代码分支）： - op_host/<op>_def.cpp：追加 AddConfig("ascend350")，复用 ascend950 同一 config 对象（regbase 形态含 foreach 系/bn_infer/apply_adam_w_v2/swi_glu 等） - CMakeLists：SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR（或 COMPUTE_UNITS 形态）增加 ascend350/arch35（bn_infer 为 op_host/CMakeLists 特殊形态，对标 bn_training_reduce 先例） - op_host/config/ascend350/：拷贝 ascend950 的 <op>_binary.json - scripts/kernel/binary_config/ascendc_config.json：仅对 json 中已有条目的算子修改（foreach 系 6 个 + SwiGlu 共 7 条 compute_units 加 ascend350，compile_options 与 ascend950 逐项相同）；原无条目的算子不新增登记，避免影响默认编译选项行为 - nll_loss_grad 的 CMakeLists.txt 版权头规范化（OAT 合规检查要求） ## 测试 A5（Ascend950PR）环境实测： - bash build.sh --pkg --soc=ascend350 --ops=<op> --vendor_name=customize -j4 编译验证：26/26 算子通过（产物 .o、run 包产出、json 选项注入均验证；softmax_cross_entropy_with_logits 用 --soc=ascend950 对照编译确认两侧产物同构） - pre-commit 全部检查通过（按文件运行，含 clang-format/codespell/OAT 合规） ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5780 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 ## SocVersion 判断合规化 - 规则：不允许 SocVersion 区间判断隐式覆盖芯片，950/350 需显式 IsRegBase() 判断，不再依赖枚举顺序副作用 - 本 MR 涉及 1 处（sigmoid_cross_entropy_with_logits_v2 的 binary_cross_entropy_with_logits），已完成修改 - 改法：保留原 [ASCEND910B, ASCEND910E] 区间（覆盖 910B/910C/910E），或逻辑增加 IsRegbase()（显式覆盖 regbase 芯片，与 upstream !10101 已合入的 Ops::NN::AclnnUtil::IsRegbase() 同形态） - 行为零变化：950 原区间命中(true)→现 IsRegbase()(true)；350 原被区间覆盖(true)→现 IsRegbase()(true)；910B/C/E 走原区间不变 - 分支已 rebase 至最新 upstream master ## 四件套完整性检视修复 - 全量检视发现 17 个算子的 ascendc_config.json 登记缺失（摸底时带下划线 grep 未命中全驼峰条目名，误记为 950 无条目） - 涉及：loss 7（BinaryCrossEntropy/Grad、L2Loss、NLLLoss/Grad、SigmoidCrossEntropyWithLogitsV2、SparseSoftmaxCrossEntropyWithLogits）、hash 5（EmbeddingHashTableApplyAdamW/Export/Import/LookupOrInsert、InitEmbeddingHashTable）、optim 4（ApplyAdagradD、ApplyAdam、ApplyAdamWV2、ApplyGradientDescent）、activation 1（SoftmaxCrossEntropyWithLogits） - 修复：对标各自 ascend950 条目补登 ascend350（compute_units 追加 + compile_options 照抄），def/CMake/config 三件原已齐备 - 其余 84 算子四件套核查全绿或形态与 950 一致（详见任务侧检视报告） ## 补充算子 - foreach_add_scalar：清单补充登记，四件套补齐（def AddConfig ascend350 与 950 同 regbaseCfg 对象、op_kernel CMake COMPUTE_UNITS、config/ascend350/binary.json、ascendc_config.json 条目对标 950 追加 + compile_options 照抄），与同族 foreach_addcmul_scalar 等先例形态一致 ## 算子目录内融合规则适配 - 全量排查两波 84 算子目录 op_graph 层：仓内融合 pass 共 2 个、graph_infer 12 个、graph_plugin 1 个 - 🔴 修复 1 处：layer_norm/op_graph/fusion_pass/layer_norm_remove_broadcast_fusion_pass.cpp:102 support_soc 集合 {"Ascend950","MC62"} 增加 Ascend350（原 350 跳过融合与 950 分叉）；ops-transformer 的 apply_rotary_pos_emb_tensormove_pass 无平台门控天然放行 See merge request: cann/ops-nn!10255 | 3 天前 | |
fix: Remove unnecessary workspace for embedding_hash_table_import/embedding_hash_table_apply_adam_w/embedding_hash_table_lookup_or_insert Co-authored-by: yifangao<gaoyifan20@huawei.com> # message auto-generated for no-merge-commit merge: !9860 merge workspace-remove-1 into master fix: Remove unnecessary workspace for embedding_hash_table_import/embedding_hash_table_apply_adam_w/embedding_hash_table_lookup_or_insert Created-by: yifangao Commit-by: yifangao Merged-by: cann-robot Description: ## 描述 embedding_hash_table_import、embedding_hash_table_apply_adam_w 和 embedding_hash_table_lookup_or_insert 算子未实际使用 workspace，但原实现仍为每个算子申请了 16 MiB workspace，并在 kernel 入口执行了 workspace 判空及初始化。 本次修改： - 将上述 3 个算子的 workspace 大小由 16 MiB 调整为 0，避免不必要的内存申请。 - 删除 kernel 中未使用的 workspace 判空、SetSysWorkspace/GetUserWorkspace 调用以及相关参数传递。 - 统一 workspace 常量命名，并补充文件末尾换行。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6122 ## 测试 David冒烟：http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260922_115543988 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!9860 | 9 小时前 | |
fix: Remove unnecessary workspace for embedding_hash_table_import/embedding_hash_table_apply_adam_w/embedding_hash_table_lookup_or_insert Co-authored-by: yifangao<gaoyifan20@huawei.com> # message auto-generated for no-merge-commit merge: !9860 merge workspace-remove-1 into master fix: Remove unnecessary workspace for embedding_hash_table_import/embedding_hash_table_apply_adam_w/embedding_hash_table_lookup_or_insert Created-by: yifangao Commit-by: yifangao Merged-by: cann-robot Description: ## 描述 embedding_hash_table_import、embedding_hash_table_apply_adam_w 和 embedding_hash_table_lookup_or_insert 算子未实际使用 workspace，但原实现仍为每个算子申请了 16 MiB workspace，并在 kernel 入口执行了 workspace 判空及初始化。 本次修改： - 将上述 3 个算子的 workspace 大小由 16 MiB 调整为 0，避免不必要的内存申请。 - 删除 kernel 中未使用的 workspace 判空、SetSysWorkspace/GetUserWorkspace 调用以及相关参数传递。 - 统一 workspace 常量命名，并补充文件末尾换行。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6122 ## 测试 David冒烟：http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260922_115543988 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!9860 | 9 小时前 | |
bn_infer等26个算子新增ascend350平台支持 Co-authored-by: Developer user<zhuzixian1@h-partners.com> # message auto-generated for no-merge-commit merge: !10255 merge ascend350_adapt_w2 into master bn_infer等26个算子新增ascend350平台支持 Created-by: zhuzixian-lr Commit-by: Developer user Merged-by: cann-robot Description: ## 描述 26个算子新增ascend350平台支持：foreach_mul_scalar、foreach_sqrt、foreach_addcmul_scalar、foreach_div_scalar_list、foreach_lerp_scalar、foreach_norm、bn_infer、apply_adagrad_d、apply_gradient_descent、apply_adam、apply_adam_w_v2、embedding_hash_table_apply_adam_w、embedding_hash_table_export、embedding_hash_table_import、embedding_hash_table_lookup_or_insert、init_embedding_hash_table、binary_cross_entropy、sigmoid_cross_entropy_with_logits_v2、binary_cross_entropy_grad、l2_loss、nll_loss、nll_loss_grad、sparse_softmax_cross_entropy_with_logits、softmax_cross_entropy_with_logits、swiglu_group_quant、swi_glu。 修改模式（350与ascend950完全同配，两者同为 DAV_3510，走同一代码分支）： - op_host/<op>_def.cpp：追加 AddConfig("ascend350")，复用 ascend950 同一 config 对象（regbase 形态含 foreach 系/bn_infer/apply_adam_w_v2/swi_glu 等） - CMakeLists：SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR（或 COMPUTE_UNITS 形态）增加 ascend350/arch35（bn_infer 为 op_host/CMakeLists 特殊形态，对标 bn_training_reduce 先例） - op_host/config/ascend350/：拷贝 ascend950 的 <op>_binary.json - scripts/kernel/binary_config/ascendc_config.json：仅对 json 中已有条目的算子修改（foreach 系 6 个 + SwiGlu 共 7 条 compute_units 加 ascend350，compile_options 与 ascend950 逐项相同）；原无条目的算子不新增登记，避免影响默认编译选项行为 - nll_loss_grad 的 CMakeLists.txt 版权头规范化（OAT 合规检查要求） ## 测试 A5（Ascend950PR）环境实测： - bash build.sh --pkg --soc=ascend350 --ops=<op> --vendor_name=customize -j4 编译验证：26/26 算子通过（产物 .o、run 包产出、json 选项注入均验证；softmax_cross_entropy_with_logits 用 --soc=ascend950 对照编译确认两侧产物同构） - pre-commit 全部检查通过（按文件运行，含 clang-format/codespell/OAT 合规） ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5780 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 ## SocVersion 判断合规化 - 规则：不允许 SocVersion 区间判断隐式覆盖芯片，950/350 需显式 IsRegBase() 判断，不再依赖枚举顺序副作用 - 本 MR 涉及 1 处（sigmoid_cross_entropy_with_logits_v2 的 binary_cross_entropy_with_logits），已完成修改 - 改法：保留原 [ASCEND910B, ASCEND910E] 区间（覆盖 910B/910C/910E），或逻辑增加 IsRegbase()（显式覆盖 regbase 芯片，与 upstream !10101 已合入的 Ops::NN::AclnnUtil::IsRegbase() 同形态） - 行为零变化：950 原区间命中(true)→现 IsRegbase()(true)；350 原被区间覆盖(true)→现 IsRegbase()(true)；910B/C/E 走原区间不变 - 分支已 rebase 至最新 upstream master ## 四件套完整性检视修复 - 全量检视发现 17 个算子的 ascendc_config.json 登记缺失（摸底时带下划线 grep 未命中全驼峰条目名，误记为 950 无条目） - 涉及：loss 7（BinaryCrossEntropy/Grad、L2Loss、NLLLoss/Grad、SigmoidCrossEntropyWithLogitsV2、SparseSoftmaxCrossEntropyWithLogits）、hash 5（EmbeddingHashTableApplyAdamW/Export/Import/LookupOrInsert、InitEmbeddingHashTable）、optim 4（ApplyAdagradD、ApplyAdam、ApplyAdamWV2、ApplyGradientDescent）、activation 1（SoftmaxCrossEntropyWithLogits） - 修复：对标各自 ascend950 条目补登 ascend350（compute_units 追加 + compile_options 照抄），def/CMake/config 三件原已齐备 - 其余 84 算子四件套核查全绿或形态与 950 一致（详见任务侧检视报告） ## 补充算子 - foreach_add_scalar：清单补充登记，四件套补齐（def AddConfig ascend350 与 950 同 regbaseCfg 对象、op_kernel CMake COMPUTE_UNITS、config/ascend350/binary.json、ascendc_config.json 条目对标 950 追加 + compile_options 照抄），与同族 foreach_addcmul_scalar 等先例形态一致 ## 算子目录内融合规则适配 - 全量排查两波 84 算子目录 op_graph 层：仓内融合 pass 共 2 个、graph_infer 12 个、graph_plugin 1 个 - 🔴 修复 1 处：layer_norm/op_graph/fusion_pass/layer_norm_remove_broadcast_fusion_pass.cpp:102 support_soc 集合 {"Ascend950","MC62"} 增加 Ascend350（原 350 跳过融合与 950 分叉）；ops-transformer 的 apply_rotary_pos_emb_tensormove_pass 无平台门控天然放行 See merge request: cann/ops-nn!10255 | 3 天前 | |
下一代hash算子功能支持 Co-authored-by: 张磊<zhanglei121@huawei.com> # message auto-generated for no-merge-commit merge: !540 merge master into master 下一代hash算子功能支持 Created-by: zl_hw Commit-by: 张磊 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!540 | 8 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 9 小时前 | ||
| 10 小时前 | ||
| 3 天前 | ||
| 9 小时前 | ||
| 9 小时前 | ||
| 3 天前 | ||
| 8 个月前 |