Welcome to ask questions and discuss with other members.

问题描述

环境：Ascend910_9382
cann版本：9.0.0
cpu：arm架构

在优化一个算子的时候，发现使用了cann头文件中的matmul::Matmul类。
我的算子要做的是每cube处理一个matmul操作，产生一个矩阵写入GM，然后通知vector进行反量化处理。同步关系中只有vector依赖cube的生产。
采集了这个算子的profiling，发现aic_scalar_ratio占比极高，达到了接近90%。并且在cube计算完以后还需等待vector结束，此时cube的scalar存在大量的空转。

用ai分析了matmul的代码，ai给出的结论是：在这个算子中，matmul使用了busy_polling的CS架构，cube为server，vector为client。

想求证以下问题：

1. ai分析的是否正确：matmul使用了busy_polling的CS架构？
2. 假设1成立的前提下，busy_polling对性能造成多大的影响。个人理解只要是busy_polling，必然会占用scalar的一些开销，这会对指令发射、标量计算产生多大影响？
3. 在这种简单的同步关系下，有没有除了CS架构以外的解决方案。