| Files | Last commit | Last update |
|---|---|---|
fix: 对齐 IndexerQuantCache HiFloat4 ReciprocalCast 参数 Co-authored-by: chendunyang<chendunyang1@huawei.com> # message auto-generated for no-merge-commit merge: !14104 merge fix/indexer-reciprocal-cast-trait-20261019 into master fix: 对齐 IndexerQuantCache HiFloat4 ReciprocalCast 参数 Created-by: qq_37913898 Commit-by: chendunyang Merged-by: cann-robot Description: ## 描述 IndexerQuantCache 的 960DT HiFloat4 倒数转换显式指定类型和 CastTrait,与已合入 PR #13818 的 PartialRotaryMulQuant 写法一致,避免依赖 SDK 默认参数。 - 使用 ReciprocalCast<bfloat16_t, fp8_e6m2_t, castTraitReciprocal>。 - CastTrait 指定 ZERO / SAT / ZEROING / CAST_RINT。 - trait 定义在 IndexerQuantCache 的 HiFloat4 专用头文件内,保留现有寄存器、mask 和 950 路径。 基于已包含 #14102 修复的最新 master,仅修改一个头文件。 ## 验证 - clang-format 18.1.8、git diff --check 通过。 - 已对照 #13818 的类型参数和 trait 四个字段。 - 未在内部 ascend960dt SDK 上重新执行 HiBuild,未进行 960DT 设备数值验证。 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-transformer!14104 | 29 days ago | |
feat: KvCompressEpilog 960DT 算子适配及 IndexerQuantCache HiFloat4 支持 Co-authored-by: chendunyang<chendunyang1@huawei.com> # message auto-generated for no-merge-commit merge: !13803 merge feat/ascend960dt-operator-support-20261013 into master feat: KvCompressEpilog 960DT 算子适配及 IndexerQuantCache HiFloat4 支持 Created-by: qq_37913898 Commit-by: chendunyang Merged-by: cann-robot Description: ## 描述 为 KvCompressEpilog、IndexerQuantCache 新增 ascend960dt 平台配置;IndexerQuantCache 新增仅在 960DT 使用的 HiFloat4 量化模式 quant_mode=4。 - HiFloat4 支持 FLOAT16/BFLOAT16 输入、单行/多行及分页 cache 更新,每 64 个元素产生 4 字节 scale。 - Host/ACLNN 通过 GetCurNpuArch() 与 Ops::Base::DAV_9201 判断平台;kernel 通过 arch 9201 和 HiFloat4 dtype 条件隔离,保留 950 既有模式和 kernel。 - dtype 直接使用 SDK 的 DT_HIFLOAT4、DT_HIFLOAT4_SCALE 定义。 - 补充 dtype、平台、shape、stride 和 UB 边界的 tiling UT。 - 修复 KvCompressEpilog Host UT 的上下文:补充 CompileInfo、输出 cache shape,并统一平台核数和 UB 配置;保留原有正负例及预期结果。 ## 验证 - JSON 解析、git diff --check 通过。 - KvCompressEpilog 本地 CANN 9.1.0: bash build.sh -u --ophost --asan --ops=kv_compress_epilog 通过,13 项 tiling UT 和 4 项推导 UT 全部成功。 - 本地 CANN 9.1.0 平台 API 编译检查通过; - 提交 7714cc6c0 的 [线上 CI](https://gitcode.com/CANN/ops-transformer/actions/runs/eb13193c05854c329bb304b5943c61a4) 已通过:63/63 个任务完成,PR 已获得 ci-pipeline-passed 标签。 - 尚未进行 960DT 设备数值验证。 ## 类型标签 - [x] 新特性 - [x] 平台配置与兼容性 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-transformer!13803 | 29 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 29 days ago | ||
| 29 days ago |