SetSysWorkSpace
产品支持情况
功能说明
框架需要使用的workspace称之为系统workspace。Matmul Kernel侧接口等高阶API需要系统workspace,所以在使用该类API时,需要调用该接口,设置系统workspace的指针。采用工程化算子开发方式或者kernel直调方式(开启HAVE_WORKSPACE编译选项)时,不需要开发者手动设置,框架会自动设置。其他场景下,需要开发者调用SetSysWorkSpace进行设置。
在kernel侧调用该接口前,需要在host侧调用GetLibApiWorkSpaceSize获取系统workspace的大小,并在host侧设置workspacesize大小。样例如下:
// 用户自定义的tiling函数
static ge::graphStatus TilingFunc(gert::TilingContext* context)
{
AddApiTiling tiling;
...
size_t usrSize = 256; // 设置用户需要使用的workspace大小。
// 如需要使用系统workspace需要调用GetLibApiWorkSpaceSize获取系统workspace的大小。
auto ascendcPlatform = platform_ascendc:: PlatformAscendC(context->GetPlatformInfo());
uint32_t sysWorkspaceSize = ascendcPlatform.GetLibApiWorkSpaceSize();
size_t *currentWorkspace = context->GetWorkspaceSizes(1); // 通过框架获取workspace的指针,GetWorkspaceSizes入参为所需workspace的块数。当前限制使用一块。
currentWorkspace[0] = usrSize + sysWorkspaceSize; // 设置总的workspace的数值大小,总的workspace空间由框架来申请并管理。
...
}
函数原型
__aicore__ inline void SetSysWorkspace(GM_ADDR workspace)
参数说明
表 1 接口参数说明
约束说明
无
返回值说明
无
调用示例
template<typename aType, typename bType, typename cType, typename biasType>
__aicore__ inline void MatmulLeakyKernel<aType, bType, cType, biasType>::Init(
GM_ADDR a, GM_ADDR b, GM_ADDR bias, GM_ADDR c, GM_ADDR workspace, const TCubeTiling& tiling, float alpha)
{
// 融合算子的初始化操作
// ...
AscendC::SetSysWorkspace(workspace);
if (GetSysWorkSpacePtr() == nullptr) {
return;
}
}