Merged
支持 hifloat4 与 hifloat4_scale 数据类型 #1002
支持 hifloat4 与 hifloat4_scale 数据类型 #1002
Merged
ren-botaoAdd on Oct 10
ren-botaoCollaborators
Oct 10

描述

新增 hifloat4(4bit 浮点)与 hifloat4_scale 两种数据类型的支持,覆盖类型判定、类型大小、类型提升、字符串与数据类型互转、aclScalar/aclTensor 构造等链路。
同时,aclDataType 定义在 runtime 仓、ge::DataType 定义在 metadef 仓,两者随版本迭代会新增枚举项;为使基于旧版本 metadef/runtime 包(头文件不含新增枚举项,如 ACL_HIFLOAT4_SCALE)也能编译,在 op::internal 中按同名同值补充了常量定义(ACL_HIFLOAT4=42、ACL_HIFLOAT4_SCALE=43、DT_HIFLOAT4=42、DT_HIFLOAT4_SCALE=43),并定义 DT_MAX=44 作为数据类型上界,使数组长度与范围校验在高低版本头文件下保持一致。该组常量仅供框架内部使用。

改动方法:

  1. include/nnopbase/opdev/data_type_utils.h:新增 op::internal 兼容常量;IsNumberType/IsRealNumberType/IsFloatingType 纳入 DT_HIFLOAT4、DT_HIFLOAT4_SCALE;TypeSize 数组长度与范围校验改用 internal::DT_MAX 并新增两项(DT_HIFLOAT4 按位宽编码 kDataTypeSizeBitOffset+4,DT_HIFLOAT4_SCALE 为 4 字节);ToAclDataType 转换列表、kPromoteTypesLookup 维度与 PromoteType 边界校验同步改用 internal::DT_MAX。
  2. src/nnopbase/common/utils/common_types.cpp:aclTensor(const aclScalar*, DataType) 新增 DT_HIFLOAT4 分支;aclScalar 的 To()/ToStr()/aclScalar(const void*, DataType) 新增 DT_HIFLOAT4;aclScalar(op::HiFloat4) 的 dtype 由 DT_FLOAT4_E1M2 修正为 DT_HIFLOAT4(移除原 reserved 告警);GetDataType() 越界返回值改为 internal::DT_MAX;ToString(aclDataType) 新增 hifloat4、hifloat4_scale;错误信息中支持的 dtype 范围文本补充 DT_HIFLOAT4(42)。
  3. src/nnopbase/common/utils/data_type_utils.cpp:新增补充映射表 gAdditionalDataTypeToStringMap,ToString(DataType) 优先查表,保证低版本 ge 下也能输出 DT_HIFLOAT4 / DT_HIFLOAT4_SCALE。
  4. src/nnopbase/composite_op/aclnn_engine/op_kernel.cpp:STR_2_DATA_TYPE 与 DATA_TYPE_2_STR 新增 hifloat4、hifloat4_scale;GetReadableFmtDtypeKey 边界改用 internal::DT_MAX。
  5. src/nnopbase/CMakeLists.txt:nnopbase_headers 增加 include/ 根路径。

关联的Issue

测试

  • 新增 UT tests/nnopbase/ut/composite_op/test_common_types.cpp:
    • TestAclScalar_HiFloat4BitPatterns:按 HiFloat4 位模式(1 符号位 + 1 指数位 + 2 尾数位,bias=1,最大值 1.75)校验取值转换与位模式互转;
    • TestAclScalar_ConvertCustomFloatTo 新增 HiFloat4 用例;TestAclScalarToAclTensor 新增 HiFloat4 用例,并校验 hifloat4_scale 当前不支持构造 aclScalar(抛 std::invalid_argument)。
  • 新增 UT tests/nnopbase/ut/composite_op/test_data_type_utils.cpp:
    • AdditionalDataTypeConstants、Hifloat4TypeSize、Hifloat4ShapeBtyes、Hifloat4ToAclDataType、Hifloat4TypePredicates。

文档更新

  • docs/zh|en/api/nnopbase/opdev/op_executor/ConvertToTensor.md:支持的数据类型列表补充 DT_HIFLOAT4。
  • docs/zh|en/error_code/Nnopbase-Errors/EZ1006-Not_Supported_Data_Type.md:错误示例中支持的数据类型范围补充 DT_HIFLOAT4(42)。

类型标签

likedislike
Pull Request has been successfully merged by CANN-robot.
(Thank you for ren-botao's contribution.)
Rren-botaoCollaborators
Oct 10 Created pull request, commit 2a13b4b4
atomgit-bot
atomgit-bot
Oct 10 Comments:

变更摘要

该 PR 为算子基础库新增了 hifloat4 与 hifloat4_scale 两种数据类型的支持。改动覆盖数据类型识别与判断、位宽/字节数计算、与 aclDataType 的互转、aclScalar/aclTensor 的构造与取值转换,以及字符串名称的双向映射,并补充了相应的单元测试。同时修正了 HiFloat4 标量构造函数此前误用 DT_FLOAT4_E1M2 类型的问题。

主要改动

  • 数据类型属性与判断扩展:在 data_type_utils.h 中,将 DT_HIFLOAT4、DT_HIFLOAT4_SCALE 加入 IsNumberType、IsRealNumberType 与 IsFloatingType 判断,并在 TypeSize/ToAclDataType 中按 4bit(编码为 kDataTypeSizeBitOffset + 4)与 4 字节分别计算,同时纳入 CAN_CONVERT_TO_ACL_DataType_LIST 支持转换。
  • aclScalar 与 aclTensor 支持 hifloat4:在 common_types.cpp 中为 DT_HIFLOAT4 补充了构造、To()、ToStr() 分支及取值转换 ConvertCustomFloatTo<T, op::HiFloat4>,并修正 aclScalar(op::HiFloat4) 由 DT_FLOAT4_E1M2 改为 DT_HIFLOAT4,移除了原先的保留告警。
  • 数据类型名称双向映射:在 op_kernel.cpp 与 common_types.cpp 的 ToString 中,为 hifloat4、hifloat4_scale 增加字符串与 DataType/aclDataType(ACL_HIFLOAT4、ACL_HIFLOAT4_SCALE)之间的映射。
  • 不支持类型的报错范围更新:aclScalar/aclTensor 的错误提示中,将支持的 dtype 范围说明从 DT_FLOAT4_E1M2(41) 扩展到包含 DT_HIFLOAT4(42)。
  • 单元测试补充:新增 TestAclScalar_HiFloat4BitPatterns、Hifloat4TypeSize、Hifloat4ShapeBtyes、Hifloat4ToAclDataType、Hifloat4TypePredicates 等用例,验证 HiFloat4 位模式取值、类型大小、类型判断以及 hifloat4_scale 暂不支持构造 aclScalar 的行为。
likedislike
Incorrect?
atomgit-bot
atomgit-bot
Oct 10 Comments:

代码审查

✅ 未发现问题

likedislike
Incorrect?
CANN-robotCANN-robotCollaborators
Oct 10 Added label: cann-cla/yes
CANN-robot
CANN-robotCollaborators
Oct 10 Comments:

CLA Signature Pass

ren-botao, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
94 messages are collapsed here。 See more
CANN-robotCANN-robotCollaborators
Oct 16 Closed associated issue
CANN-robotCANN-robotCollaborators
Oct 16 Merged pull request
Rren-botaoCollaborators
21 days ago Deleted associated issue: [Requirement|需求建议]: 支持 hifloat4 与 hifloat4_scale 数据类型
Rren-botaoCollaborators
21 days ago Associated issue: [Bug-Report|缺陷反馈]: HIFLOAT4 is missing from opdev type helpers
CANN-robotCANN-robotCollaborators
21 days ago Removed label: ci-pipeline-passed