已关闭
[Question|问题咨询]: JIT 编译缓存:磁盘空间与老化规则 #441
m0_68855833创建于  6月10日关闭于  7月3日
m0_68855833
m0_68855833
6月10日 创建

Welcome to ask questions and discuss with other members.

问题描述

使用ATC动态Shape编译开启JIT在线编译,部分稀疏算子每次推理都会触发重新编译,CANN的JIT缓存淘汰策略能否手动配置缓存容量与过期规则?

likedislike
暖阳成员
6月11日 从 cann/asc-devkit 转移
王涛成员
6月11日 评论:

你好,提的问题中有几个概念,ATC,动态shape,JIT在线编译,推理等,想先了解下你的使用场景:是否使用的了ATC模型转换,同时转换的模型是动态shape模型,是air模型、pb模型还是onnx模型,另外,你是怎么开启的jit在线编译?推理时又是怎么使用的?

likedislike
夏国正成员
7月3日 添加了label:wait-feedback
夏国正成员
7月3日 将 chenqian1365 设为负责人
夏国正成员
7月3日 issue状态由 进行中 改变为 已完成
夏国正成员
7月3日 关闭了 issue