| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
增加原型CMakeLists文件 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !3780 merge AddOpGraph into master 增加原型CMakeLists文件 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> dynamic_block_mx_quant等算子原型没有打包到cann_eco包中的ops_proto_nn.h文件,需要对缺失的算子增加原型CMakeLists文件 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/2057 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!3780 | 7 个月前 | |
feat(dynamic_mx_quant): 支持 Ascend 950 scale_alg=3 NVFP4 block16 量化 Co-authored-by: F0rty-tw0<jiangzhongbin3@huawei.com> # message auto-generated for no-merge-commit merge: !13691 merge feat/dynamic-mx-quant-scalealg3-nvfp4 into master feat(dynamic_mx_quant): 支持 Ascend 950 scale_alg=3 NVFP4 block16 量化 Created-by: F0rty-tw0 Commit-by: F0rty-tw0 Merged-by: cann-robot Description: ## 描述 为 DynamicMxQuant 新增 scale_alg=3 的 NVFP4 block16 量化,支持 Ascend 950 的 FP16/BF16 输入、偶数长度尾轴和 rint / round / floor 三种舍入模式。每16个元素生成 E2M1 数据及 E4M3FN scale,并接入属性校验、输出类型/形状推导及二进制配置。 格式仍声明为ND,沿用官方master的默认格式匹配和输入AutoContiguous()行为,不设置全局FormatMatchMode(STRICT)。 NVFP4 尾轴实现基于 !12982,复用现有尾轴 tiling 与 DynamicMxQuantTailAxisTilingData,通过行列切分和 UB 循环覆盖短行、长行及非对齐尾轴。NVFP4 kernel 集中在 dynamic_mx_quant_tail_axis_nvfp4.h,TPipe 管理搬入、计算和搬出的依赖;不限制完整 DT 型号。 - 保留 FP16/BF16 先求 max、再转 FP32 的数值顺序;补齐使用 NaN,修复全 NaN 尾块、scale 零值/NaN、scale 整理及边界量化的精度问题。 - AutoTiling() 对 scale_alg=3 增加16行评分:按每核最多行数及实际 block16 计算宽度估算工作量,非16对齐段计入现有 kernel 的4个block对齐开销,避免512列整片与短尾片被当作相同负载。候选枚举及原排序器继续复用。 - NVFP4 golden 合入既有 tests/assets/golden.py;本次实现替换使用同一份已验证 golden,未重新生成期望数据。提交范围为算子代码及既有 golden。 ## 关联的Issue 无。 ## 测试 - 独立 CANN 9.2.0 环境完成算子包编译和安装,实测设备 Ascend950DT_9574。 - 格式匹配调整前,量化实现精度3765/3765通过:3560条native、120条连续执行、85条TTK;覆盖FP16/BF16、三种舍入模式、NaN、Inf、-Inf、正负零、极大/极小值及切分边界,y和scale二进制一致,并检查输入和保护区。 - 格式匹配调整前,重新采集85条TTK,二进制精度及内存检查85/85通过;每条预先排除首轮,后5次取算术平均,共425次正式采样,全部保留。 - 相对精度修复后的 !12982 历史结果,40960×528从56.3043μs到35.6558μs,40960×514从56.8980μs到38.9852μs;2560×45058从152.1633μs到159.9430μs,存在约5.11%回退。历史基准为排除首轮后4次均值,最新为5次均值;不宣称逐例均有收益。 - 已同步主仓master。删除全局STRICT后,重新编译安装完整自定义包:原有scale_alg=0/1/2的20条兼容性测试全部通过(FP16/BF16非连续输入、rank1—5及ND/NCL scale对照),NVFP4原生精度3560/3560及120条连续执行全部通过,y/scale二进制一致、输入及保护区正常;已核实实际加载的新库。该包的85条TTK回归在用户要求停止时中断,不计为完成,也未重新采集性能。 - 提交前格式、静态及OAT检查通过。 ## 文档更新 无。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13691 | 5 天前 |