Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud（背景信息）

在大模型推理中，部分 token 可以不用npu计算得到，可以通过提前的buffer缓存去取出该部分token。常规流程中这些数据需要在 NPU
上重新计算一遍，占用推理时间。当前库上engram算子只支持推理，无法支持训练。

本次提交的 engram_fetch / engram_fetch_grad 分别为正向和反向算子，支持训练。

Benefit / Necessity （价值/作用）

降低推理时延：对于可预的 token 数据，不再走 NPU 全流程推理，而是直接从 CPU 映射的 Engram Buffer 中 fetch，用内存访问代替重复计算，减少端到端推理耗时

Design（设计方案）

Engram Fetch 路径训练化。前向复用推理同一个 EngramFetch 接口（aclnnEngramFetch issue + aclnnEngramFetchWait wait），由 ElasticBuffer(with_grad=True) 切训练模式——不新造前向算子、不改用户签名；训练态额外产出 save-for-backward（作为可选输出，推理传 nullptr）。反向是唯一新算子 EngramFetchBackward（单融合 kernel）。