HansEncode

产品支持情况

产品 是否支持
Ascend 950PR/Ascend 950DT ×
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品
Atlas 200I/500 A2 推理产品 ×
Atlas 推理系列产品 ×
Atlas 训练系列产品 ×

功能说明

  • 算子功能:对张量的指数位所在字节实现PDF统计,按PDF分布统计进行无损压缩,压缩后的结果存储在device的内存上或offload到Host侧。

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
input_tensor 输入 表示输入的待压缩张量,数据元素大小仅支持64的倍数且大于等于32768。 FLOAT16、BFLOAT16、FLOAT32 ND
pdf 输出 表示inputTensor的指数位所在字节的概率密度分布,shape要求为(1, 256)。其中每一个元素的值表示其对应的索引,在input中出现的次数。 INT32 ND
mantissa 输出 表示输出的尾数部分。 FLOAT16、BFLOAT16、FLOAT32 ND
fixed 输出 表示input指数位压缩的定长部分。 FLOAT16、BFLOAT16、FLOAT32 ND
var 输出 表示input指数位压缩的变长部分。 FLOAT16、BFLOAT16、FLOAT32 ND
statistic 可选属性
  • 表示是否进行pdf统计。
  • 默认值为false。
Bool -
reshuff 可选属性
  • 表示是否对各核编码后的结果进行内存重整。
  • 默认值为false。
Bool -

约束说明

调用说明

调用方式 调用样例 说明
aclnn调用 test_aclnn_hans_encode 通过aclnnHansEncode接口方式调用HansEncode算子。