| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fallback 迁移 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8131 merge ziliao into master fallback 迁移 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 变更摘要 此 PR 为三个量化相关算子新增了 fallback 执行实现,均以 IMPL_OP 宏注册到 fallback 命名空间中。当硬件原生不支持这些算子时,框架将通过 fallback 路径调用对应的 aclnn API 在 Host 侧完成计算,从而提供兜底能力。 ### 主要改动 * 新增 QuantBatchMatmulInplaceAdd fallback 实现: 在 quant_batch_matmul_inplace_add_fallback.cpp 中,通过 QuantBatchMatmulInplaceAddExecuteFunc 获取输入张量 x1、x2、x2Scale、可选 x1Scale 及 yRef,解析 transposeX1、transposeX2、groupSize 属性后调用 aclnnQuantBatchMatmulInplaceAdd API 执行计算。 * 新增 QuantBatchMatmulV3 fallback 实现: 在 quant_batch_matmul_v3_fallback.cpp 中,QuantBatchMatmulV3ExecuteFunc 根据输入数据类型(是否属于 v5InputDtypes 或满足 isA8W8GB 条件)分发到 aclnnQuantMatmulV5 或 aclnnQuantMatmulV4 API,支持 float8/fp4 等新数据类型及 INT8 分组量化场景。 * 新增 TransQuantParamV2 fallback 实现: 在 trans_quant_param_v2_fallback.cpp 中,TransQuantParamV2ExecuteFunc 获取 scale、可选 offset 及输出张量,解析 roundMode 属性后调用 aclnnTransQuantParamV3 API 完成量化参数的转换。 ## 关联的Issue [#4535](https://gitcode.com/cann/ops-nn/issues/4535) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8131 | 1 个月前 | |
nn仓rnn 、vfusion、control文件夹打标签 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !8342 merge master into master nn仓rnn 、vfusion、control文件夹打标签 Created-by: yanglu-1 Commit-by: yanglu-1;y60124828 Merged-by: cann-robot Description: ## 描述 nn仓rnn 、vfusion、control文件夹打标签 ## 关联的Issue 例如:关联Issue [#4600](https://gitcode.com/cann/ops-nn/issues/4600) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8342 | 30 天前 | |
init | 11 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 30 天前 | ||
| 11 个月前 |