Closed
[Requirement|需求建议]: 支持 hifloat4 与 hifloat4_scale 数据类型 #525
ren-botaoAdd on  Oct 15Closed at  Oct 16
ren-botaoCollaborators
Oct 15 Create

Background(背景信息)

nnopbase 需要支持 hifloat4(4bit 浮点)与 hifloat4_scale 两种数据类型,使其在类型判定、类型大小计算、类型提升、字符串与数据类型互转、aclScalar/aclTensor 构造等链路上可用。
同时存在版本兼容问题:aclDataType 定义在 runtime 仓、ge::DataType 定义在 metadef 仓,两者随版本迭代会新增枚举项。为使基于旧版本 metadef/runtime 包(头文件不含新增枚举项,如 ACL_HIFLOAT4_SCALE)也能编译,需要在 nnopbase 内部按同名同值补充常量定义。

Origin(信息来源)

(待补充:请填写提出该需求的部门/团队,代码中无此信息)

Benefit / Necessity(价值/作用)

为 nnopbase 增加 hifloat4、hifloat4_scale 两种数据类型的完整支持,使框架能够识别这两种类型、计算其元素大小与类型提升关系,并支持通过 aclScalar/aclTensor 构造与取值;同时通过内部兼容常量加补充映射表的方式,使产物在高低版本 metadef/runtime 头文件下均可编译且行为一致(数组长度与范围校验统一以 DT_MAX=44 为上界),避免因外部仓新增枚举项导致编译失败或行为分叉。

Design(设计方案)

  1. 在 op::internal 中按同名同值补充兼容常量:ACL_HIFLOAT4=42、ACL_HIFLOAT4_SCALE=43、DT_HIFLOAT4=42、DT_HIFLOAT4_SCALE=43,并定义 DT_MAX=44 作为数据类型上界(本文件支持的最大枚举项的后一位),仅供框架内部使用。
  2. 类型判定:IsNumberType / IsRealNumberType / IsFloatingType 纳入 DT_HIFLOAT4、DT_HIFLOAT4_SCALE。
  3. 类型大小:TypeSize 数组长度与范围校验改用 internal::DT_MAX,新增两项,DT_HIFLOAT4 以 kDataTypeSizeBitOffset + 4 编码位宽(4bit),DT_HIFLOAT4_SCALE 为 4 字节。
  4. 类型提升与转换:ToAclDataType 转换列表新增两项;kPromoteTypesLookup 维度、PromoteType 与 GetReadableFmtDtypeKey 的边界校验统一改用 internal::DT_MAX。
  5. 构造与互转:aclTensor(const aclScalar*, DataType) 新增 DT_HIFLOAT4 分支;aclScalar 的 To()/ToStr()/aclScalar(const void*, DataType) 新增 DT_HIFLOAT4;aclScalar(op::HiFloat4) 的 dtype 由 DT_FLOAT4_E1M2 修正为 DT_HIFLOAT4(并移除原 reserved 告警);ToString(aclDataType) 与 STR_2_DATA_TYPE/DATA_TYPE_2_STR 新增 hifloat4、hifloat4_scale。
  6. 序列化名兜底:新增 gAdditionalDataTypeToStringMap,ToString(DataType) 优先查表,保证低版本 ge 下仍能输出 DT_HIFLOAT4 / DT_HIFLOAT4_SCALE。
  7. 构建:nnopbase_headers 增加 include/ 根路径。

关联 PR:https://gitcode.com/cann/opbase/pull/1002

likedislike
Rren-botaoCollaborators
Oct 15 Added label: requirement
ren-botaoCollaborators
Oct 15 Comments:

/assign @ren-botao

likedislike
CANN-robotCANN-robotCollaborators
Oct 15 Assign ren-botao as responsible person
CANN-robotCANN-robotCollaborators
Oct 16 Close issue
CANN-robotCANN-robotCollaborators
Oct 16 Added label: resolved
Rren-botaoCollaborators
21 days ago Deleted associated pull request: 支持 hifloat4 与 hifloat4_scale 数据类型
Rren-botaoCollaborators
21 days ago Associated pull request