| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fallback 迁移 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8131 merge ziliao into master fallback 迁移 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 变更摘要 此 PR 为三个量化相关算子新增了 fallback 执行实现，均以 IMPL_OP 宏注册到 fallback 命名空间中。当硬件原生不支持这些算子时，框架将通过 fallback 路径调用对应的 aclnn API 在 Host 侧完成计算，从而提供兜底能力。 ### 主要改动 * 新增 QuantBatchMatmulInplaceAdd fallback 实现: 在 quant_batch_matmul_inplace_add_fallback.cpp 中，通过 QuantBatchMatmulInplaceAddExecuteFunc 获取输入张量 x1、x2、x2Scale、可选 x1Scale 及 yRef，解析 transposeX1、transposeX2、groupSize 属性后调用 aclnnQuantBatchMatmulInplaceAdd API 执行计算。 * 新增 QuantBatchMatmulV3 fallback 实现: 在 quant_batch_matmul_v3_fallback.cpp 中，QuantBatchMatmulV3ExecuteFunc 根据输入数据类型（是否属于 v5InputDtypes 或满足 isA8W8GB 条件）分发到 aclnnQuantMatmulV5 或 aclnnQuantMatmulV4 API，支持 float8/fp4 等新数据类型及 INT8 分组量化场景。 * 新增 TransQuantParamV2 fallback 实现: 在 trans_quant_param_v2_fallback.cpp 中，TransQuantParamV2ExecuteFunc 获取 scale、可选 offset 及输出张量，解析 roundMode 属性后调用 aclnnTransQuantParamV3 API 完成量化参数的转换。 ## 关联的Issue [#4535](https://gitcode.com/cann/ops-nn/issues/4535) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8131 | 1 个月前 | |
add sleep Co-authored-by: c00887544<chenshengze@huawei.com> # message auto-generated for no-merge-commit merge: !7221 merge sleepfeature into master add sleep Created-by: chengzhi1120 Commit-by: c00887544 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增Sleep算子，接口功能：让 NPU 设备休眠指定的时钟周期数。该算子通过 SIMT clock() 忙等待实现精确的延时控制，语义与 CUDA 的 spin_kernel / torch.cuda._sleep 一致 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/4332 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> TTK和Xrun验证正常通过 本次转测不涉及性能/精度/确定性，保证功能OK ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!7221 | 2 个月前 | |
init | 11 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 2 个月前 | ||
| 11 个月前 |