Closed
[Requirement|需求建议]: combine算子获取tilingdata改用GET_TILING_DATA_MEMBER #7650
yezhuoxiAdd on  1 day agoClosed at  1 day ago
yezhuoxiCollaborators
1 day ago Create

Backgroud(背景信息)

combine算子获取tilingdata改用GET_TILING_DATA_MEMBER,减少搬运tilingdata时间,减少头开销

Benefit / Necessity (价值/作用)

Design(设计方案)

likedislike
YyezhuoxiCollaborators
1 day ago Added label: requirement
周云飞
周云飞Collaborators
1 day ago Comments:

/assign @yezhuoxi

likedislike
周云飞
周云飞Collaborators
1 day ago Comments:

按需使用 GET_TILING_DATA_MEMBER 获取 TilingData 成员,是值得评估的性能优化方向,有可能减少不必要的数据搬运;具体收益需要结合实际访问方式测量。

建议先确认目标 combine 算子及其内核读取 TilingData 的位置,再评估替换时所需成员、数据布局兼容性和性能变化。请补充算子的完整名称或对应代码位置,以便确定优化范围。

likedislike
CANN-robotCANN-robotCollaborators
1 day ago Assign yezhuoxi as responsible person
CANN-robotCANN-robotCollaborators
1 day ago Close issue
周云飞
周云飞Collaborators
1 day ago Comments:

PR #15816 已合入:相关 combine 算子入口改用 GET_TILING_DATA_MEMBER 获取 moeDistributeCombineV2Info,并同步调整初始化接口,直接使用该成员读取 tiling 参数。

关联 PR:PR #15816

likedislike
CANN-robotCANN-robotCollaborators
22 hours ago Added label: resolved