| Files | Last commit | Last update |
|---|---|---|
math仓英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !6772 merge master into master math仓英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 math仓master分支英文合入 ## 关联的Issue 关联issue:[4170](https://gitcode.com/cann/ops-math/issues/4170) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6772 | 16 days ago | |
feat: weight_quant_preprocess 新增 A8W4(F8F4) T-CG 数据流 MM_A8F4_TCG Co-authored-by: maqijun<maqijun@h-partners.com> # message auto-generated for no-merge-commit merge: !6068 merge feat/weight-quant-preprocess-f8f4-tcg into master feat: weight_quant_preprocess 新增 A8W4(F8F4) T-CG 数据流 MM_A8F4_TCG Created-by: maqijun Commit-by: maqijun Merged-by: cann-robot Description: ## 描述 为 weight_quant_preprocess(伪量化 Matmul 的前置参数预处理算子)新增 A8W4(F8F4) T-CG 数据流 MM_A8F4_TCG:x 为 FLOAT8_E4M3FN、weight 为 FLOAT4_E2M1(紧凑 4-bit)、weightScale 为 FP16/BF16 per-group({ceildiv(K,32),N},G>1),配套 QuantBatchMatmulV4 的 T-CG 伪量化场景,共 2 个子场景(weight 转置 → ND 直拷透传;weight 非转置 → ND→FRACTAL_NZ_C0_32 分形转换)。check/process 全部复用既有组件(含与 master 重名的存量符号统一加 9201 后缀),TCG 零新增 kernel。 ## 关联的Issue #3839 https://gitcode.com/cann/ops-math/issues/3839 ## 测试 二级冒烟(新增 MM_A8F4_TCG UT 用例全过,存量 91 例回归正常) ## 文档更新 docs/aclnnWeightQuantPreprocess.md ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6068 | 22 days ago | |
weightQuantPreporcess Scale转置异常修复 Co-authored-by: zhouhang96<zhouhang96@huawei.com> # message auto-generated for no-merge-commit merge: !7257 merge master into master weightQuantPreporcess Scale转置异常修复 Created-by: zhouhang96 Commit-by: zhouhang96 Merged-by: cann-robot Description: ## 描述 取值从weight变为weightScale 规避weight因转置带来的kn反转 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue https://gitcode.com/cann/ops-math/issues/4658 <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 测试门槛42/42 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 不涉及 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7257 | 4 days ago | |
feat: weight_quant_preprocess 新增 A8W4(F8F4) T-CG 数据流 MM_A8F4_TCG Co-authored-by: maqijun<maqijun@h-partners.com> # message auto-generated for no-merge-commit merge: !6068 merge feat/weight-quant-preprocess-f8f4-tcg into master feat: weight_quant_preprocess 新增 A8W4(F8F4) T-CG 数据流 MM_A8F4_TCG Created-by: maqijun Commit-by: maqijun Merged-by: cann-robot Description: ## 描述 为 weight_quant_preprocess(伪量化 Matmul 的前置参数预处理算子)新增 A8W4(F8F4) T-CG 数据流 MM_A8F4_TCG:x 为 FLOAT8_E4M3FN、weight 为 FLOAT4_E2M1(紧凑 4-bit)、weightScale 为 FP16/BF16 per-group({ceildiv(K,32),N},G>1),配套 QuantBatchMatmulV4 的 T-CG 伪量化场景,共 2 个子场景(weight 转置 → ND 直拷透传;weight 非转置 → ND→FRACTAL_NZ_C0_32 分形转换)。check/process 全部复用既有组件(含与 master 重名的存量符号统一加 9201 后缀),TCG 零新增 kernel。 ## 关联的Issue #3839 https://gitcode.com/cann/ops-math/issues/3839 ## 测试 二级冒烟(新增 MM_A8F4_TCG UT 用例全过,存量 91 例回归正常) ## 文档更新 docs/aclnnWeightQuantPreprocess.md ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6068 | 22 days ago | |
新增接口WeightQuantPreprocess Co-authored-by: yan-chengyi123<yanchengyi@huawei.com> Co-authored-by: renzetao<renzetao2@huawei.com> # message auto-generated for no-merge-commit merge: !3832 merge WeightQuantPreprocess into master 新增接口WeightQuantPreprocess Created-by: renzetao Commit-by: renzetao;yan-chengyi123 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次 PR 新增了 WeightQuantPreprocess 算子接口,用于对量化推理中的权重张量进行预处理转换。主要支持两类数据流:MM_MX_A8W4(矩阵乘,2维权重)和 GMM_MX_A8W4(分组矩阵乘,3维权重),均面向 FLOAT4_E2M1 权重 / FLOAT8_E8M0 scale 的 Mx 量化场景。核心流程是将 ND/NCL 格式的权重转置后通过 TransData 转换为 FORMAT_FRACTAL_NZ_C0_32 格式,并对 weightScale 和 bias 做直接拷贝。接口采用两段式设计(GetWorkspaceSize + 执行),并通过 DataFlowEntry 注册表按 NPU 架构匹配数据流、校验参数、执行业务逻辑。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#2230](https://gitcode.com/cann/ops-math/issues/2230) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 本地验证GMM-MxA8W4,QBMM-MxA8W4 的历史用例pass ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增了conversion/weight_quant_preprocess/docs/aclnnWeightQuantPreprocess.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!3832 | 3 months ago | |
aclnn确定性开关配置变更和产品名变更,简化md表格语法,删除冗余css样式 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !6613 merge master into master aclnn确定性开关配置变更和产品名变更,简化md表格语法,删除冗余css样式 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> - aclnn确定性开关配置变更:aclrtCtxSetSysParamOpt改为aclrtSetSysParamOpt - 产品名变更 - 简化md表格语法,删除冗余css样式 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [# 3833](https://gitcode.com/cann/ops-math/issues/3833) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ok ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> \*.md acl\*.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6613 | 22 days ago | |
docs: add English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !7113 merge docs/add-english-translations into master docs: add English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 新增仓库Markdown文档英文译稿(第二批,共409个文件):第一批(已合入)之外的其余全部译稿,覆盖conversion、examples、ge、math、random各类算子README译稿,以及CHANGELOG_en.md、.gitcode PR模板英文版等。 本批内全部仓内链接均指向master已有文件(含第一批已合入的21+2篇译稿),合入后本仓432篇英文文档全部就位,链接完整生效。 本批同时包含4篇基于最新源文档的增量更新(math/ada_cast、math/prod_force_se_a、math/sinkhorn、math/xlogy,对应上游近期文档变更)。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试;已通过链接有效性校验(本批全部相对链接仅指向master已有文件,无指向本PR外未提交文件的链接),并完成逐篇翻译规范自查与语义校对(含支持状态表、限定词、术语、数值符号核对)。 ## 文档更新 新增409个英文译稿文件(*_en.md / .en-US.md),不修改任何现有文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7113 | 9 days ago |
WeightQuantPreprocess
English | 简体中文
This directory contains only the aclnn APIs corresponding to the WeightQuantPreprocess operator. If you want to contribute the Ascend C implementation of this operator, refer to Contribution Process.