StatelessUniform
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR&950DT系列产品 | √ |
| Atlas A3系列产品 | × |
| Atlas A2系列产品 | × |
| Atlas 200I/500 A2推理产品 | × |
| Atlas推理系列产品 | × |
| Atlas训练系列产品 | × |
功能说明
-
算子功能:基于Philox4x32-10伪随机数生成算法,生成服从均匀分布的随机数张量,随机值范围为[from, to),边界与上界回绕按转换为输出数据类型后的值解释。
-
计算公式:
记TT为输出数据类型(FLOAT32、FLOAT16或BFLOAT16),fromfrom、toto为DOUBLE标量,在tiling阶段先转换为FLOAT32,再分别转换为TT得到边界aa、bb,差值dd同样按TT保存:
a=T(FLOAT32(from)),b=T(FLOAT32(to)),d=T(b−a)a = T(\text{FLOAT32}(from)), \quad b = T(\text{FLOAT32}(to)), \quad d = T(b - a)
其中xix_i为Philox4x32-10算法生成的原始uint32随机数,uiu_i与候选值viv_i的计算如下:
ui=FLOAT32(FLOAT32(xi)×2−32+2−33),vi=T(FLOAT32(ui)×FLOAT32(d)+FLOAT32(a))u_i = \text{FLOAT32}\left(\text{FLOAT32}(x_i) \times 2^{-32} + 2^{-33}\right), \quad v_i = T\left(\text{FLOAT32}(u_i) \times \text{FLOAT32}(d) + \text{FLOAT32}(a)\right)
候选值先转换回输出数据类型,再用
==与上界bb比较:相等时改写为下界aa,否则保留viv_i:yi={a,vi=bvi,vi≠by_i = \begin{cases} a, & v_i = b \\ v_i, & v_i \neq b \end{cases}
uiu_i的归一化方式与竞品curand_uniform一致,即u=x×2−32+2−33u = x \times 2^{-32} + 2^{-33}(FLOAT32计算);受FLOAT32舍入影响,uiu_i在FLOAT32下可能取到1,FLOAT16/BFLOAT16的候选值也可能在转换为输出类型后等于上界;当候选值恰好等于上界bb时触发上述上界回绕。因此[from,to)[from, to)应按转换后的边界解释:当a<ba < b时通常yi∈[a,b)y_i \in [a, b),但受浮点舍入影响,uiu_i接近1时候选值可能略高于bb且不等于bb(不回绕),此时yiy_i可略超bb,下界aa始终成立;当a=ba = b(fromfrom、toto转换为输出类型后重合,退化情形)时,yiy_i恒为aa。上述计算过程不改变Philox随机序列的生成规则,且仅适用于本算子及其支持产品。
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| shape | 输入 | 输出张量的形状,1-D tensor。 | INT64 | ND |
| seed | 输入 | Philox算法的随机数种子,0-D标量。 | INT64 | ND |
| offset | 输入 | Philox算法的偏移量,0-D标量。必须是4的倍数。 | INT64 | ND |
| from | 输入 | 均匀分布随机范围的下界(包含),0-D标量。 | DOUBLE | ND |
| to | 输入 | 均匀分布随机范围的上界(不包含),0-D标量。 | DOUBLE | ND |
| y | 输出 | 输出指定形状的均匀分布随机值,值域为[from, to),边界按转换为输出数据类型后的值解释(见计算公式)。 | FLOAT16、BFLOAT16、FLOAT32 | ND |
| dtype | 属性 | 输出数据类型,默认为FLOAT32。 | Type | - |
约束说明
- offset必须是4的倍数。
- 输出张量维度支持0~8维。
- from必须小于等于to,且to - from不能超出输出数据类型的表示范围。
调用说明
| 调用方式 | 样例代码 | 说明 |
|---|---|---|
| aclnn调用 | test_aclnn_stateless_uniform | 通过aclnnInplaceUniform接口方式调用StatelessUniform算子。 |
| 图模式调用 | test_geir_stateless_uniform | 通过算子IR构图方式调用StatelessUniform算子。 |