已关闭
[Feature Request|新需求]: ONNX 融合规则平台校验前移优化 #6262
rk创建于  9月28日关闭于  9月29日
rk成员
9月28日 创建

一、背景信息

LayerNormFusionPass / LayerNormInferenceFusionPass / LayerNormONNXFusionPass / LayerNormONNXMULFusionPass / LayerNormRemoveBroadcastFusionPass 五条融合规则的平台校验位于 MeetRequirements()(匹配结果过滤阶段)。不支持的平台下仍会完整构造 pattern(分别为 32、64、96、40、1 个,合计 233 个)并参与结构匹配;且 MeetRequirements() 在每次匹配回调中重复查询平台信息。

二、价值/作用

  • 不支持平台时避免构造全部 pattern 及后续结构匹配,降低图编译开销
  • 消除匹配结果过滤阶段的重复平台查询(平台信息在图编译期间不变,校验一次即可)

三、设计方案

将 IsSupportedPlatform() 校验前移到 Patterns() 开头:不支持的平台或平台信息获取失败时返回空 pattern 列表(框架对空 pattern 返回 GRAPH_NOT_CHANGED,行为安全);移除 MeetRequirements() 中的重复校验。

关联 PR:https://gitcode.com/cann/ops-nn/pull/11299

likedislike
yuning_chenyuning_chen成员
9月28日 将 wangpengbo26 设为负责人
Rrk成员
9月28日 修改了issue 的描述
Rrk成员
9月29日 修改了issue 的描述
CANN-robotCANN-robot成员
9月29日 关闭了 issue
CANN-robotCANN-robot成员
9月29日 添加了label:resolved