已关闭
【社区任务】[Requirement|需求建议] aclnnBernoulli低内存实现 #2322
hzw_rpap创建于  7月26日关闭于  8月1日
hzw_rpap
hzw_rpap
7月26日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

背景

现有 aclnnBernoulli 一般概率路径会产生全尺寸中间张量,导致 NPU 与 GPU
峰值内存存在明显差距。本需求来自 7 月社区任务 aclnnBernoulli 算子开发。

价值

降低 aclnnBernoulli 在 Atlas A2/A3 上的运行内存,使其与 GPU 的
total peak allocated/reserved 差距控制在 5% 以内,同时保持原有功能、
随机语义和性能。

设计方案

保留 DSAGenBitMask 的 seed/offset 随机序列生成逻辑,新增 Ascend C
BernoulliMask Kernel,将 packed bit mask 直接展开为目标数据类型。

连续输出在满足存储条件时复用 mask 与输出空间;小张量和非连续输出使用
独立缓冲区,以保证边界及 view 语义。

支持 Atlas A2/A3、10 种输出数据类型、4 种 probability 数据类型、
out-of-place、inplace、连续及非连续 Tensor。

设计文档:
https://gitcode.com/cann/cann-ops-competitions/pull/671

likedislike
hzw_rpap
hzw_rpap
7月26日 评论:

/assign @hzw_rpap

likedislike
CANN-robotCANN-robot成员
7月26日 将 hzw_rpap 设为负责人
hzw_rpaphzw_rpap
7月26日 关联了pull request:[社区任务] aclnnBernoulli低内存实现
hzw_rpap
hzw_rpap
7月26日 评论:
likedislike
hzw_rpaphzw_rpap
7月26日 修改标题为 “【社区任务】[Requirement|需求建议] aclnnBernoulli低内存实现”,原标题为“[Requirement|需求建议]: aclnnBernoulli低内存实现”
hzw_rpap
hzw_rpap
7月26日 评论:

/unassign @hzw_rpap

likedislike
CANN-robotCANN-robot成员
7月26日 移除了负责人 hzw_rpap
hzw_rpap
hzw_rpap
7月26日 评论:

/assign @fullt

likedislike
CANN-robotCANN-robot成员
7月26日 将 fullt 设为负责人
CANN-robotCANN-robot成员
8月1日 关闭了 issue
CANN-robotCANN-robot成员
8月1日 添加了label:resolved