| Files | Last commit | Last update |
|---|---|---|
[inv] 算子质量加固修复 + 平台适配 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !6567 merge master_new into master [inv] 算子质量加固修复 + 平台适配 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: # [inv] 算子质量加固修复 + 平台适配 ## 描述 依据 Inv 算子六轮全量验证(静态检查 + ST 用例生成/评审/自验证 + 上板 TTK)发现的问题进行整改,并新增芯片平台支持。 本 PR 仅涉及 math/inv/ 目录(15 文件,+646/-152),不影响其他算子。 ## 变更概述 ### 1. P1 精度缺陷修复 **bf16 次正规输入倒数返回 inf**(op_kernel/arch35/inv.h) fp16/bf16 分支的 Div 未带 config,默认 INTRINSIC 算法对 fp32 次正规操作数执行 flush-to-zero,导致合法输入(bf16 最大次正规数 1.166e-38)的倒数结果错误地返回 inf 而非有限值 8.574e37。修复为与 float32 分支统一使用 DivConfig{PRECISION_0ULP_FTZ_FALSE}。 真机复现 FAIL(matched_ratio=0.0) → 修复后 PASS(1.0),整批 L0 零回归。 ### 2. 功能补齐 | 功能 | 文件 | 说明 | |---|---|---| | InferShape 推导 | op_host/inv_infershape.cpp(新增) | 注册 IMPL_OP_INFERSHAPE(Inv).InferShape(InferShape4Inv),复用仓内公共 InferShape4Elewise | | Tiling rank 上界 | op_host/arch35/inv_tiling_arch35.cpp | kMaxRank=8,rank>8 以 EZ0012 结构化诊断码显式拒绝 | | InferShape rank 上界 | op_host/inv_infershape.cpp | 与 Tiling 门对称,rank>8 拒绝(EZ0012) | | ascend350 适配 | CMakeLists.txt + inv_def.cpp | SUPPORT_COMPUTE_UNIT 增加 ascend350,AddConfig("ascend350"),tiling 复用 arch35 | ### 3. Golden 测试资产 新增 tests/assets/golden.py(206 行): - 注册 inv(Kernel/GEIR)+ tf.raw_ops.Inv(TF E2E,对齐插件 OriginOpType) - 参考计算全部由 torch 承担:float 用 torch.reciprocal 直接竞品,int32 三值映射用 torch.where 组合 - NumPy 仅做数据桥接;bfloat16 经 uint16 位视图往返(位级一致,含次正规数) - 延迟导入 torch(_ensure_torch()),纯 TF NPU 环境可加载注册 - 容差按 README 声明:FLOAT 1e-4 / FLOAT16 1e-3 / BFLOAT16 4e-3 / INT32 binary_equal ### 4. 注册面与资料修复 - proto 注释维度 1D~8D → 0D~8D (rank-0 tensor supported)(inv_proto.h:24) - INPUT/OUTPUT TensorType 保持原始声明不变(8 种/4 种) - README:调用表三列化(补"样例代码"列)、参数名 self/out → x/y(对齐 IR 端口)、补动态 shape/rank(-1/-2)声明 ### 5. 样例修复 | 修复 | 说明 | |---|---| | 输入缓冲区泄漏 | Tensor::SetData + DeleteFunc 移交所有权 | | 提前返回未清理 | 两条路径补 GEFinalize() | | AddGraph 返回值 | if (ret != SUCCESS) + 资源清理 | | 宏节点名截短 | "placeholder" + std::to_string(intputIndex) | | WriteDataToFile | 返回值检查 | ### 6. 注释修正 TilingKey/D_T_SELF/DTYPE_SELF 陈旧描述统一修正为 MODE 恒 0 + DTYPE_X 编译期分派(4 处源码 + 20 处 UT 注释)。 ## 关联 Issue https://gitcode.com/cann/ops-math/issues/3696 ## 测试 - **op_host UT**:46/46 通过(含新增 InferShape 8 例 + Tiling rank 拒绝 2 例) - **GEIR 样例真机**:execute samples success(ascend950) - **上板精度**:Kernel 480/494 PASS + GEIR 40/40 PASS(连续四轮零精度失败;14 例 rank-0 失败为 CANN DFX 环境缺陷,BIN 模式 100% 通过,非算子问题) - **bf16 次正规回归**:真机复现 FAIL → 修复后 PASS,整批 L0 零回归 - **README 冻结校验器**:validate_operator_readme.py --mode full PASSED ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-math!6567 | 24 days ago | |
迁移开源TF插件--math Co-authored-by: yaochen<yaochen15@huawei.com> # message auto-generated for no-merge-commit merge: !4308 merge transfer-math into master 迁移开源TF插件--math Created-by: nextyale Commit-by: yaochen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:迁移TF插件 See merge request: cann/ops-math!4308 | 3 months ago | |
[inv] 算子质量加固修复 + 平台适配 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !6567 merge master_new into master [inv] 算子质量加固修复 + 平台适配 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: # [inv] 算子质量加固修复 + 平台适配 ## 描述 依据 Inv 算子六轮全量验证(静态检查 + ST 用例生成/评审/自验证 + 上板 TTK)发现的问题进行整改,并新增芯片平台支持。 本 PR 仅涉及 math/inv/ 目录(15 文件,+646/-152),不影响其他算子。 ## 变更概述 ### 1. P1 精度缺陷修复 **bf16 次正规输入倒数返回 inf**(op_kernel/arch35/inv.h) fp16/bf16 分支的 Div 未带 config,默认 INTRINSIC 算法对 fp32 次正规操作数执行 flush-to-zero,导致合法输入(bf16 最大次正规数 1.166e-38)的倒数结果错误地返回 inf 而非有限值 8.574e37。修复为与 float32 分支统一使用 DivConfig{PRECISION_0ULP_FTZ_FALSE}。 真机复现 FAIL(matched_ratio=0.0) → 修复后 PASS(1.0),整批 L0 零回归。 ### 2. 功能补齐 | 功能 | 文件 | 说明 | |---|---|---| | InferShape 推导 | op_host/inv_infershape.cpp(新增) | 注册 IMPL_OP_INFERSHAPE(Inv).InferShape(InferShape4Inv),复用仓内公共 InferShape4Elewise | | Tiling rank 上界 | op_host/arch35/inv_tiling_arch35.cpp | kMaxRank=8,rank>8 以 EZ0012 结构化诊断码显式拒绝 | | InferShape rank 上界 | op_host/inv_infershape.cpp | 与 Tiling 门对称,rank>8 拒绝(EZ0012) | | ascend350 适配 | CMakeLists.txt + inv_def.cpp | SUPPORT_COMPUTE_UNIT 增加 ascend350,AddConfig("ascend350"),tiling 复用 arch35 | ### 3. Golden 测试资产 新增 tests/assets/golden.py(206 行): - 注册 inv(Kernel/GEIR)+ tf.raw_ops.Inv(TF E2E,对齐插件 OriginOpType) - 参考计算全部由 torch 承担:float 用 torch.reciprocal 直接竞品,int32 三值映射用 torch.where 组合 - NumPy 仅做数据桥接;bfloat16 经 uint16 位视图往返(位级一致,含次正规数) - 延迟导入 torch(_ensure_torch()),纯 TF NPU 环境可加载注册 - 容差按 README 声明:FLOAT 1e-4 / FLOAT16 1e-3 / BFLOAT16 4e-3 / INT32 binary_equal ### 4. 注册面与资料修复 - proto 注释维度 1D~8D → 0D~8D (rank-0 tensor supported)(inv_proto.h:24) - INPUT/OUTPUT TensorType 保持原始声明不变(8 种/4 种) - README:调用表三列化(补"样例代码"列)、参数名 self/out → x/y(对齐 IR 端口)、补动态 shape/rank(-1/-2)声明 ### 5. 样例修复 | 修复 | 说明 | |---|---| | 输入缓冲区泄漏 | Tensor::SetData + DeleteFunc 移交所有权 | | 提前返回未清理 | 两条路径补 GEFinalize() | | AddGraph 返回值 | if (ret != SUCCESS) + 资源清理 | | 宏节点名截短 | "placeholder" + std::to_string(intputIndex) | | WriteDataToFile | 返回值检查 | ### 6. 注释修正 TilingKey/D_T_SELF/DTYPE_SELF 陈旧描述统一修正为 MODE 恒 0 + DTYPE_X 编译期分派(4 处源码 + 20 处 UT 注释)。 ## 关联 Issue https://gitcode.com/cann/ops-math/issues/3696 ## 测试 - **op_host UT**:46/46 通过(含新增 InferShape 8 例 + Tiling rank 拒绝 2 例) - **GEIR 样例真机**:execute samples success(ascend950) - **上板精度**:Kernel 480/494 PASS + GEIR 40/40 PASS(连续四轮零精度失败;14 例 rank-0 失败为 CANN DFX 环境缺陷,BIN 模式 100% 通过,非算子问题) - **bf16 次正规回归**:真机复现 FAIL → 修复后 PASS,整批 L0 零回归 - **README 冻结校验器**:validate_operator_readme.py --mode full PASSED ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-math!6567 | 24 days ago | |
[inv] 算子质量加固修复 + 平台适配 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !6567 merge master_new into master [inv] 算子质量加固修复 + 平台适配 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: # [inv] 算子质量加固修复 + 平台适配 ## 描述 依据 Inv 算子六轮全量验证(静态检查 + ST 用例生成/评审/自验证 + 上板 TTK)发现的问题进行整改,并新增芯片平台支持。 本 PR 仅涉及 math/inv/ 目录(15 文件,+646/-152),不影响其他算子。 ## 变更概述 ### 1. P1 精度缺陷修复 **bf16 次正规输入倒数返回 inf**(op_kernel/arch35/inv.h) fp16/bf16 分支的 Div 未带 config,默认 INTRINSIC 算法对 fp32 次正规操作数执行 flush-to-zero,导致合法输入(bf16 最大次正规数 1.166e-38)的倒数结果错误地返回 inf 而非有限值 8.574e37。修复为与 float32 分支统一使用 DivConfig{PRECISION_0ULP_FTZ_FALSE}。 真机复现 FAIL(matched_ratio=0.0) → 修复后 PASS(1.0),整批 L0 零回归。 ### 2. 功能补齐 | 功能 | 文件 | 说明 | |---|---|---| | InferShape 推导 | op_host/inv_infershape.cpp(新增) | 注册 IMPL_OP_INFERSHAPE(Inv).InferShape(InferShape4Inv),复用仓内公共 InferShape4Elewise | | Tiling rank 上界 | op_host/arch35/inv_tiling_arch35.cpp | kMaxRank=8,rank>8 以 EZ0012 结构化诊断码显式拒绝 | | InferShape rank 上界 | op_host/inv_infershape.cpp | 与 Tiling 门对称,rank>8 拒绝(EZ0012) | | ascend350 适配 | CMakeLists.txt + inv_def.cpp | SUPPORT_COMPUTE_UNIT 增加 ascend350,AddConfig("ascend350"),tiling 复用 arch35 | ### 3. Golden 测试资产 新增 tests/assets/golden.py(206 行): - 注册 inv(Kernel/GEIR)+ tf.raw_ops.Inv(TF E2E,对齐插件 OriginOpType) - 参考计算全部由 torch 承担:float 用 torch.reciprocal 直接竞品,int32 三值映射用 torch.where 组合 - NumPy 仅做数据桥接;bfloat16 经 uint16 位视图往返(位级一致,含次正规数) - 延迟导入 torch(_ensure_torch()),纯 TF NPU 环境可加载注册 - 容差按 README 声明:FLOAT 1e-4 / FLOAT16 1e-3 / BFLOAT16 4e-3 / INT32 binary_equal ### 4. 注册面与资料修复 - proto 注释维度 1D~8D → 0D~8D (rank-0 tensor supported)(inv_proto.h:24) - INPUT/OUTPUT TensorType 保持原始声明不变(8 种/4 种) - README:调用表三列化(补"样例代码"列)、参数名 self/out → x/y(对齐 IR 端口)、补动态 shape/rank(-1/-2)声明 ### 5. 样例修复 | 修复 | 说明 | |---|---| | 输入缓冲区泄漏 | Tensor::SetData + DeleteFunc 移交所有权 | | 提前返回未清理 | 两条路径补 GEFinalize() | | AddGraph 返回值 | if (ret != SUCCESS) + 资源清理 | | 宏节点名截短 | "placeholder" + std::to_string(intputIndex) | | WriteDataToFile | 返回值检查 | ### 6. 注释修正 TilingKey/D_T_SELF/DTYPE_SELF 陈旧描述统一修正为 MODE 恒 0 + DTYPE_X 编译期分派(4 处源码 + 20 处 UT 注释)。 ## 关联 Issue https://gitcode.com/cann/ops-math/issues/3696 ## 测试 - **op_host UT**:46/46 通过(含新增 InferShape 8 例 + Tiling rank 拒绝 2 例) - **GEIR 样例真机**:execute samples success(ascend950) - **上板精度**:Kernel 480/494 PASS + GEIR 40/40 PASS(连续四轮零精度失败;14 例 rank-0 失败为 CANN DFX 环境缺陷,BIN 模式 100% 通过,非算子问题) - **bf16 次正规回归**:真机复现 FAIL → 修复后 PASS,整批 L0 零回归 - **README 冻结校验器**:validate_operator_readme.py --mode full PASSED ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-math!6567 | 24 days ago | |
fix(inv): 算子性能优化,subnormal场景使用--cce-ftz自定义支持 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !7231 merge fix/changwei_jiaoyiming-68 into master fix(inv): 算子性能优化,subnormal场景使用--cce-ftz自定义支持 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: ## 描述 Inv 算子 arch35 kernel 三个浮点 dtype(fp32/fp16/bf16)的 Div 配置 AscendC::DivAlgo::PRECISION_0ULP_FTZ_FALSE 在 dav_5162 上展开为约 150 向量字的软件除法序列(FTZ_FALSE 次正规软件处理为主导项),kernel 从访存受限退化为计算受限,geir 通路性能单 case 判据大面积不达标(详见 #4628)。 本 PR 将 Div 精度策略整体切换为「按 dtype 分通道配置」(分支已重写为单 commit,替换此前版本的数值域分流混合方案): - **fp32**:Div(ones, x) 改用 DivAlgo::DIFF_COMPENSATION(0ULP 软件补偿除)——**正常值正确舍入**:65536 元素正常值输出与 fp64 直接舍入参照**逐位一致**(bit-exact); - **fp16/bf16**:Cast 到 fp32 中间量 → DivAlgo::INTRINSIC(硬件除法)→ Cast 回原 dtype——1ULP 类硬件除误差被输出舍入**结构性吸收**:fp16/bf16 输入有效数字 ≤11/8 位,精确倒数到输出格式舍入中点的距离有数论下界(fp16 ≥2 ulp32、bf16 ≥128 ulp32),而中间量误差 ≤1 ulp32,误差区间不含任何输出中点,故输出逐位等于精确舍入;实测 65536 元素与 0ULP 软件除、fp64 直舍参照**三方逐位零差**(双重舍入角点零命中)。fp16 次正规输入(≥2^-24)经 Cast 后在 fp32 中恒为正规数,不受 FTZ 影响; - **构建**:不注入任何 FTZ 旗标——次正规冲刷语义依赖工具链默认 ftz=true(实测:无旗标构建与显式 --cce-ftz=true 的 4 个 kernel .o 产物 sha256 逐位全等)。 修改文件 1 个:math/inv/op_kernel/arch35/inv.h(Div 配置两站 + 注释),合计 +10/-7;CMakeLists/op_host/op_api/tests/tiling 零改动。 ## 关联的Issue Fixes #4628 补充背景:fp32 的 PRECISION_0ULP_FTZ_FALSE 由 FP32 除法精度修复引入(https://gitcode.com/cann/ops-math/issues/2804),fp16/bf16 由 1f7973dca 统一为同款配置(修复 bf16 次正规输入倒数返回 inf 的 P1 缺陷)。本 PR 保留 #2804 的核心目标(fp32 正常值 0ULP 正确舍入),并按「知情取舍」主动让渡次正规域语义(代价与量化影响见「决策与权衡」)。 ## 测试 (ascend950 实测;性能数据取自同一健康卡快态,每数据块以 int32 用例作金丝雀门控。) - **性能(指名用例 Inv_L1_tolerance_d_b_006,fp16 42.4M 元素,同卡同口径)**:语义等价于修复前的对照构建(0ULP + 保次正规软件除序列)**778.1us** → 修复后 **76.2us(10.2x)**。注:#4628 原始报告的 ~12763us 为另一卡态(降频压制态)实测,与本处数据不同卡态口径、不可直比。 - **性能判据(284 条,新装新跑)**:**260/284**——fp16 70/0、bf16 88/0、int32 41/0 全绿(geir 标量 4 例 4/4);fp32 61/85,24 条失败全部为 fp32 中大形状(ratio 0.345-0.400 < 0.405,中位缺口约 7.6%)。 - **精度(同 284 条全量)**:**283/284**——唯一 FAIL 为 ±FLT_MAX 满幅随机用例(约 12.8M 元素):0.0129% 输入为 fp32 次正规,被冲刷为 ±0 → 倒数输出 ±Inf(期望有限值 ~±3e38);matched_ratio 99.987% 达标但 max_abs_error=inf 触发 Inf mismatch(属「知情取舍①」的显性化,见决策与权衡)。 - **次正规看护集(33 条)**:25/33——8 条次正规边界用例按知情取舍语义失败(bf16 次正规×4 → ±Inf、fp32 次正规×4 → 冲刷),其余 25 条(全部正常值域 + int32 + fp16 全次正规带)100% 通过。 - **UT**:**46/46**(InvInfershape 8 + InvTilingTest 38),零退化。 - **与前一版混合方案的判据对账(零退化)**:前一版方案判据 PASS 的用例在本方案下**无一条转红**(转绿带与原绿带全部保持 PASS);前一版因逐块检测开销/计时地板判不过的机械红带在本方案下全部回收(该对账跨卡态,仅作方向参照)。 - **数值位级稳定性**:① fp32 正常值 65536 元素输出与 fp64 直舍参照逐位一致;② fp16/bf16 输出与 0ULP 软件除、fp64 直舍参照三方逐位零差;③ 软件流水重排变体(CopyIn 提前下发)下输出逐位不变——数值正确性不依赖指令调度(该变体无性能收益,未采纳)。 - **构建与静态检查**:build.sh EXIT=0;无旗标构建与显式 --cce-ftz=true 构建的 kernel 产物逐位一致(.o sha256 全等);pre-commit 全绿(含 OAT license header 重扫);clang-format 合规。 ## 文档更新 无文档更新:kernel 内精度策略注释随代码同步(含知情取舍注记);README 精度策略节未同步(理由见「决策与权衡」第 3 条)。 ## 决策与权衡 1. **fp32 三难取舍(正常值 0ULP / 次正规语义 / 性能,dav_5162 上不可兼得)**: - 0ULP + 全保次正规(修复前语义等价软件序列):指名用例 778.1us、判据大面积不达标——无法满足 #4628 的性能诉求; - bit 级检测分流保语义(本 PR 前一版方案):逐块检测开销是结构性的(检测算子地板 + 块间同步开销高于该类用例预算),且大输入域检测分支复杂度高; - **本方案(0ULP + 性能,让渡次正规域)**:以 bit-exact 实证保住 #2804 的 fp32 正常值 0ULP 目标,同时拿到 10.2x 性能与 fp16/bf16 硬件除最短序列。若 fp32 亦改用纯硬件除,284 条判据可全过,但 fp32 正常值精度退为 1ULP 类,回归 #2804 的 0ULP 目标——三难中次正规域是本 Issue 语境下唯一可让渡项。 2. **知情取舍三口径(明示)**: - **① 次正规语义让渡**:默认 ftz=true 语义下,bf16 次正规输入(<2^-126)经 Cast 被冲刷为零 → 1/0=**±Inf**(回归 1f7973dca 修复的「bf16 次正规输入倒数返回 inf」缺陷面);fp32 次正规输入(|x|<2^-126)同样冲刷 → **±Inf**;fp32 近满幅输入(|x|>2^126,精确倒数为次正规)输出侧冲刷为 **±0**。fp16 次正规不受影响(Cast 后恒为 fp32 正规数)。看护集 8 条边界用例失败即此语义的知情接受清单(非疏漏); - **② 精度全量 283/284**:唯一 FAIL 即上述次正规面在判据集内的显性化(0.0129% 次正规输入 → ±Inf;另有 0.231% 输出侧冲刷被容差掩蔽、位级差异实测在案); - **③ 性能判据 260/284**:fp32 61/85 的 24 条失败为「正常值 0ULP」的直接代价——DIFF_COMPENSATION 的 43 向量字折叠软件补偿序列比纯硬件除的 8 向量字计算更重(中大形状 ratio 0.345-0.400,中位缺口约 7.6%);「下发点提前」类软件流水优化经实验证伪(执行点受输入队列 2-slot 旋转依赖约束,与下发点无关);**BUFFER_NUM=3**(双缓冲→三缓冲实现访存/计算真重叠)为已识别的后续优化方向,需 UB 预算重排与 tiling 联动,超出本 PR 范围。 3. **README 精度策略节未同步**:为使改动范围最小化(仅 kernel 单文件),README 精度策略说明未随本 PR 修改;精度策略以本节与 kernel 内注释为准,README 同步可另行评审。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7231 | 7 days ago | |
Inv 算子 golden 容差从 mix_tolerance 改为 cross_check L1 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !6955 merge master_new into master Inv 算子 golden 容差从 mix_tolerance 改为 cross_check L1 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: ## 描述 Inv 算子 golden 容差从 mix_tolerance 改为 cross_check L1(1 文件 +7/-9)。 两处 tolerance dict(InvTestSpec、InvTensorFlowTestSpec)的浮点条目从 mix_tolerance rtol/atol 改为 cross_check L1,int32 保持 binary_equal 不变。 cross_check 为三方判据(NPU 输出 + CPU golden + XPU 第三方参考),需要 TTK XPU Server 支持(ttk.conf.yaml 配置)。 ## 关联的 Issue https://gitcode.com/cann/ops-math/issues/4381 ## 测试 **上板精度验证**(Ascend950PR + XPU Server CPU 三方参考,cross_check L1): - L0 全量 **43/43 PASS(100%)**,覆盖全 dtype: - float32: 14/14 - float16: 15/15(含次正规、rank-0 标量、2^31 边界、空 Tensor) - bfloat16: 7/7(含次正规、rank-0 标量、空 Tensor) - int32: 7/7(三值映射含 INT_MIN/MAX) - 零精度失败、零 PROFILE_CRASH ## 文档更新 不涉及。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6955 | 17 days ago | |
[inv] 算子质量加固修复 + 平台适配 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !6567 merge master_new into master [inv] 算子质量加固修复 + 平台适配 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: # [inv] 算子质量加固修复 + 平台适配 ## 描述 依据 Inv 算子六轮全量验证(静态检查 + ST 用例生成/评审/自验证 + 上板 TTK)发现的问题进行整改,并新增芯片平台支持。 本 PR 仅涉及 math/inv/ 目录(15 文件,+646/-152),不影响其他算子。 ## 变更概述 ### 1. P1 精度缺陷修复 **bf16 次正规输入倒数返回 inf**(op_kernel/arch35/inv.h) fp16/bf16 分支的 Div 未带 config,默认 INTRINSIC 算法对 fp32 次正规操作数执行 flush-to-zero,导致合法输入(bf16 最大次正规数 1.166e-38)的倒数结果错误地返回 inf 而非有限值 8.574e37。修复为与 float32 分支统一使用 DivConfig{PRECISION_0ULP_FTZ_FALSE}。 真机复现 FAIL(matched_ratio=0.0) → 修复后 PASS(1.0),整批 L0 零回归。 ### 2. 功能补齐 | 功能 | 文件 | 说明 | |---|---|---| | InferShape 推导 | op_host/inv_infershape.cpp(新增) | 注册 IMPL_OP_INFERSHAPE(Inv).InferShape(InferShape4Inv),复用仓内公共 InferShape4Elewise | | Tiling rank 上界 | op_host/arch35/inv_tiling_arch35.cpp | kMaxRank=8,rank>8 以 EZ0012 结构化诊断码显式拒绝 | | InferShape rank 上界 | op_host/inv_infershape.cpp | 与 Tiling 门对称,rank>8 拒绝(EZ0012) | | ascend350 适配 | CMakeLists.txt + inv_def.cpp | SUPPORT_COMPUTE_UNIT 增加 ascend350,AddConfig("ascend350"),tiling 复用 arch35 | ### 3. Golden 测试资产 新增 tests/assets/golden.py(206 行): - 注册 inv(Kernel/GEIR)+ tf.raw_ops.Inv(TF E2E,对齐插件 OriginOpType) - 参考计算全部由 torch 承担:float 用 torch.reciprocal 直接竞品,int32 三值映射用 torch.where 组合 - NumPy 仅做数据桥接;bfloat16 经 uint16 位视图往返(位级一致,含次正规数) - 延迟导入 torch(_ensure_torch()),纯 TF NPU 环境可加载注册 - 容差按 README 声明:FLOAT 1e-4 / FLOAT16 1e-3 / BFLOAT16 4e-3 / INT32 binary_equal ### 4. 注册面与资料修复 - proto 注释维度 1D~8D → 0D~8D (rank-0 tensor supported)(inv_proto.h:24) - INPUT/OUTPUT TensorType 保持原始声明不变(8 种/4 种) - README:调用表三列化(补"样例代码"列)、参数名 self/out → x/y(对齐 IR 端口)、补动态 shape/rank(-1/-2)声明 ### 5. 样例修复 | 修复 | 说明 | |---|---| | 输入缓冲区泄漏 | Tensor::SetData + DeleteFunc 移交所有权 | | 提前返回未清理 | 两条路径补 GEFinalize() | | AddGraph 返回值 | if (ret != SUCCESS) + 资源清理 | | 宏节点名截短 | "placeholder" + std::to_string(intputIndex) | | WriteDataToFile | 返回值检查 | ### 6. 注释修正 TilingKey/D_T_SELF/DTYPE_SELF 陈旧描述统一修正为 MODE 恒 0 + DTYPE_X 编译期分派(4 处源码 + 20 处 UT 注释)。 ## 关联 Issue https://gitcode.com/cann/ops-math/issues/3696 ## 测试 - **op_host UT**:46/46 通过(含新增 InferShape 8 例 + Tiling rank 拒绝 2 例) - **GEIR 样例真机**:execute samples success(ascend950) - **上板精度**:Kernel 480/494 PASS + GEIR 40/40 PASS(连续四轮零精度失败;14 例 rank-0 失败为 CANN DFX 环境缺陷,BIN 模式 100% 通过,非算子问题) - **bf16 次正规回归**:真机复现 FAIL → 修复后 PASS,整批 L0 零回归 - **README 冻结校验器**:validate_operator_readme.py --mode full PASSED ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-math!6567 | 24 days ago | |
[inv] 算子质量加固修复 + 平台适配 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !6567 merge master_new into master [inv] 算子质量加固修复 + 平台适配 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: # [inv] 算子质量加固修复 + 平台适配 ## 描述 依据 Inv 算子六轮全量验证(静态检查 + ST 用例生成/评审/自验证 + 上板 TTK)发现的问题进行整改,并新增芯片平台支持。 本 PR 仅涉及 math/inv/ 目录(15 文件,+646/-152),不影响其他算子。 ## 变更概述 ### 1. P1 精度缺陷修复 **bf16 次正规输入倒数返回 inf**(op_kernel/arch35/inv.h) fp16/bf16 分支的 Div 未带 config,默认 INTRINSIC 算法对 fp32 次正规操作数执行 flush-to-zero,导致合法输入(bf16 最大次正规数 1.166e-38)的倒数结果错误地返回 inf 而非有限值 8.574e37。修复为与 float32 分支统一使用 DivConfig{PRECISION_0ULP_FTZ_FALSE}。 真机复现 FAIL(matched_ratio=0.0) → 修复后 PASS(1.0),整批 L0 零回归。 ### 2. 功能补齐 | 功能 | 文件 | 说明 | |---|---|---| | InferShape 推导 | op_host/inv_infershape.cpp(新增) | 注册 IMPL_OP_INFERSHAPE(Inv).InferShape(InferShape4Inv),复用仓内公共 InferShape4Elewise | | Tiling rank 上界 | op_host/arch35/inv_tiling_arch35.cpp | kMaxRank=8,rank>8 以 EZ0012 结构化诊断码显式拒绝 | | InferShape rank 上界 | op_host/inv_infershape.cpp | 与 Tiling 门对称,rank>8 拒绝(EZ0012) | | ascend350 适配 | CMakeLists.txt + inv_def.cpp | SUPPORT_COMPUTE_UNIT 增加 ascend350,AddConfig("ascend350"),tiling 复用 arch35 | ### 3. Golden 测试资产 新增 tests/assets/golden.py(206 行): - 注册 inv(Kernel/GEIR)+ tf.raw_ops.Inv(TF E2E,对齐插件 OriginOpType) - 参考计算全部由 torch 承担:float 用 torch.reciprocal 直接竞品,int32 三值映射用 torch.where 组合 - NumPy 仅做数据桥接;bfloat16 经 uint16 位视图往返(位级一致,含次正规数) - 延迟导入 torch(_ensure_torch()),纯 TF NPU 环境可加载注册 - 容差按 README 声明:FLOAT 1e-4 / FLOAT16 1e-3 / BFLOAT16 4e-3 / INT32 binary_equal ### 4. 注册面与资料修复 - proto 注释维度 1D~8D → 0D~8D (rank-0 tensor supported)(inv_proto.h:24) - INPUT/OUTPUT TensorType 保持原始声明不变(8 种/4 种) - README:调用表三列化(补"样例代码"列)、参数名 self/out → x/y(对齐 IR 端口)、补动态 shape/rank(-1/-2)声明 ### 5. 样例修复 | 修复 | 说明 | |---|---| | 输入缓冲区泄漏 | Tensor::SetData + DeleteFunc 移交所有权 | | 提前返回未清理 | 两条路径补 GEFinalize() | | AddGraph 返回值 | if (ret != SUCCESS) + 资源清理 | | 宏节点名截短 | "placeholder" + std::to_string(intputIndex) | | WriteDataToFile | 返回值检查 | ### 6. 注释修正 TilingKey/D_T_SELF/DTYPE_SELF 陈旧描述统一修正为 MODE 恒 0 + DTYPE_X 编译期分派(4 处源码 + 20 处 UT 注释)。 ## 关联 Issue https://gitcode.com/cann/ops-math/issues/3696 ## 测试 - **op_host UT**:46/46 通过(含新增 InferShape 8 例 + Tiling rank 拒绝 2 例) - **GEIR 样例真机**:execute samples success(ascend950) - **上板精度**:Kernel 480/494 PASS + GEIR 40/40 PASS(连续四轮零精度失败;14 例 rank-0 失败为 CANN DFX 环境缺陷,BIN 模式 100% 通过,非算子问题) - **bf16 次正规回归**:真机复现 FAIL → 修复后 PASS,整批 L0 零回归 - **README 冻结校验器**:validate_operator_readme.py --mode full PASSED ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-math!6567 | 24 days ago | |
docs: add English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !7113 merge docs/add-english-translations into master docs: add English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 新增仓库Markdown文档英文译稿(第二批,共409个文件):第一批(已合入)之外的其余全部译稿,覆盖conversion、examples、ge、math、random各类算子README译稿,以及CHANGELOG_en.md、.gitcode PR模板英文版等。 本批内全部仓内链接均指向master已有文件(含第一批已合入的21+2篇译稿),合入后本仓432篇英文文档全部就位,链接完整生效。 本批同时包含4篇基于最新源文档的增量更新(math/ada_cast、math/prod_force_se_a、math/sinkhorn、math/xlogy,对应上游近期文档变更)。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试;已通过链接有效性校验(本批全部相对链接仅指向master已有文件,无指向本PR外未提交文件的链接),并完成逐篇翻译规范自查与语义校对(含支持状态表、限定词、术语、数值符号核对)。 ## 文档更新 新增409个英文译稿文件(*_en.md / .en-US.md),不修改任何现有文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7113 | 14 days ago |
Inv
English | 简体中文
Product Support Status
| Product | Supported |
|---|---|
| Ascend 950PR&950DT products | √ |
| Atlas A3 products | √ |
| Atlas A2 products | √ |
| Atlas 200I/500 A2 inference products | √ |
| Atlas inference products | √ |
| Atlas training products | √ |
Function Description
-
Operator function: computes the reciprocal of each element in the input tensor element-wise.
-
Computation formula:
yi=1xiy_{i}=\frac{1}{x_{i}} yi=xi1
-
Floating-point types (FLOAT, FLOAT16, BFLOAT16) compute the true reciprocal according to IEEE-754 (division by zero yields ±Inf\pm\text{Inf}±Inf, ±Inf\pm\text{Inf}±Inf yields ±0\pm0±0, and NaN yields NaN).
-
INT32 computes the integer reciprocal truncated toward zero. For integers, 1/x1/x1/x is non-zero only when ∣x∣=1|x|=1∣x∣=1, which is equivalent to a three-value mapping:
yi={+1xi=+1−1xi=−10other (including xi=0,∣xi∣≥2,INT_MIN,INT_MAX)y_{i}= \begin{cases} +1 & x_{i}=+1 \\ -1 & x_{i}=-1 \\ 0 & \text{other (including } x_{i}=0, |x_{i}|\ge 2, \text{INT\_MIN}, \text{INT\_MAX)} \end{cases} yi=⎩⎪⎪⎨⎪⎪⎧+1−10xi=+1xi=−1other (including xi=0,∣xi∣≥2,INT_MIN,INT_MAX)
Here, xi=0x_{i}=0xi=0 is mapped to 000 without throwing an exception, and INT_MIN(−2147483648)\text{INT\_MIN}(-2147483648)INT_MIN(−2147483648) and INT_MAX(2147483647)\text{INT\_MAX}(2147483647)INT_MAX(2147483647) are both mapped to 000 without overflow.
Parameter Description
| Parameter Name | Input/Output/Attribute | Description | Data Type | Data Format |
|---|---|---|---|---|
| x | Input | Input parameter for the inv computation, which is x in the formula. Empty tensors and non-contiguous tensors are supported, and the number of shape dimensions ranges from 0 to 8. | FLOAT, FLOAT16, BFLOAT16, INT32 | ND |
| y | Output | Output parameter for the inv computation, which is y in the formula. The shape and data type are the same as those of x. | FLOAT, FLOAT16, BFLOAT16, INT32 | ND |
Constraint Description
- x and y must have the same shape and dtype, with element-wise computation and no broadcasting.
- Dynamic shape support: dynamic shapes and dynamic ranks are supported (-1 indicates an unknown dimension / -2 indicates an unknown rank). The dimension and rank are specified by the actual input at runtime, and after specification, the number of shape dimensions must range from 0 to 8.
- The precision of the floating-point path follows community standards: FLOAT rtol/atol = 1e-4, FLOAT16 = 1e-3, and BFLOAT16 = 4e-3.
- The INT32 path is an exact match (bitwise, rtol = atol = 0). The three-value mapping is implemented through pure integer comparison and selection, without float32 conversion or negating INT_MIN. Therefore, INT_MIN/INT_MAX do not overflow, and x = 0 does not throw an exception.
Invocation Description
| Invocation Method | Sample Code | Description |
|---|---|---|
| GE graph mode | test_geir_inv | Invokes the Inv operator by building a graph through the operator IR. |