readable_cache

功能说明

开启模型编译缓存功能时需调用该接口读取封装的func函数缓存文件compiled_module,并以可读文件格式(格式不限,如py、txt)呈现。

函数原型

readable_cache(cache_bin, print_output=True, file=None)

参数说明

参数 输入/输出 说明
cache_bin 输入 指定被封装func函数缓存文件的路径。例如/home/workspace/.torchair_cache/Model_dynamic_f2df0818d06118d4a83a6cacf8dc6d28/prompt/compiled_module。请确保该参数指定的路径确实存在,并且运行用户具有读、写操作权限。
print_output 输入 是否打印func函数缓存文件解析后的内容。True:默认开启打印。False:不开启打印。
file 输出 解析生成的文件路径。默认为None,即不生成可读文件。绝对路径:如/home/workspace/prompt.py。相对路径:如prompt.py,默认在调用该接口的脚本所在工作目录下。请确保该参数指定的路径确实存在,并且运行用户具有读、写操作权限。

返回值说明

返回文件内容,String类型。

约束说明

调用示例

import torch_npu, torchair
torchair.inference.readable_cache("/home/workspace/.torchair_cache/Model_dynamic_f2df0818d06118d4a83a6cacf8dc6d28/prompt/compiled_module", file="prompt.py")