已关闭
[Question|问题咨询]: JIT 编译缓存:磁盘空间与老化规则 #441
m0_68855833创建于 6月10日关闭于 7月3日
王涛
6月11日 评论:
6月11日 评论:
你好,提的问题中有几个概念,ATC,动态shape,JIT在线编译,推理等,想先了解下你的使用场景:是否使用的了ATC模型转换,同时转换的模型是动态shape模型,是air模型、pb模型还是onnx模型,另外,你是怎么开启的jit在线编译?推理时又是怎么使用的?


你好,提的问题中有几个概念,ATC,动态shape,JIT在线编译,推理等,想先了解下你的使用场景:是否使用的了ATC模型转换,同时转换的模型是动态shape模型,是air模型、pb模型还是onnx模型,另外,你是怎么开启的jit在线编译?推理时又是怎么使用的?


Welcome to ask questions and discuss with other members.
问题描述
使用ATC动态Shape编译开启JIT在线编译,部分稀疏算子每次推理都会触发重新编译,CANN的JIT缓存淘汰策略能否手动配置缓存容量与过期规则?