文件最后提交记录最后更新时间
8 个月前
8 个月前
8 个月前
8 个月前
8 个月前
11 个月前
8 个月前
8 个月前
README

Cast

产品支持情况

产品 是否支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品

功能说明

  • 算子功能:将输入tensor转换为指定的dtype类型。

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
self 输入 待进行cast计算的入参。 BOOL、FLOAT16、FLOAT、INT8、INT32、UINT32、UINT8、INT64、UINT64、INT16、UINT16、DOUBLE、COMPLEX64、COMPLEX128、QINT8、QUINT8、QINT16、QUINT16、QINT32、BF16、UINT1、COMPLEX32、HIFLOAT8、FLOAT8_E5M2、FLOAT8_E4M3FN、FLOAT4_E1M2、FLOAT4_E2M1 ND
out 输出 待进行cast计算的出参。 BOOL、FLOAT16、FLOAT、INT8、INT32、UINT32、UINT8、INT64、UINT64、INT16、UINT16、DOUBLE、COMPLEX64、COMPLEX128、QINT8、QUINT8、QINT16、QUINT16、QINT32、BF16、UINT1、COMPLEX32、HIFLOAT8、FLOAT8_E5M2、FLOAT8_E4M3FN、FLOAT4_E1M2、FLOAT4_E2M1 ND
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持COMPLEX32、HIFLOAT8、FLOAT8_E5M2、FLOAT8_E4M3FN、FLOAT4_E2M1、FLOAT4_E1M2。

约束说明

  • 针对数据类型从浮点数转换为整型的场景: 输入数据中存在nan,则将nan转换为0。

  • 针对输入数据类型为BOOL、COMPLEX32、COMPLEX64、COMPLEX128、FLOAT4_E2M1、FLOAT4_E1M2的场景: 不支持输入为非连续。

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:

    • 针对数据类型从int32转换为int8的场景: 只能保证输入数据在(-2048, 1920)范围内精度无误差。

调用说明

调用方式 调用样例 说明
aclnn调用 test_aclnn_cast 通过aclnnCast接口方式调用Cast算子。
图模式调用 test_geir_cast 通过算子IR构图方式调用Cast算子。