已开启
文档反馈-描述不清楚(易理解)-MULTI_STREAM_MEMORY_REUSE=2的配置在fsdp2场景下可以使用,而且针对该场景下显存累积上涨的问题能做到解决。跟文档描述不符,建议跟对应同事了解清楚,修改这个变量的解释描述 #4610
萌新瑟瑟创建于  9月4日
萌新瑟瑟
萌新瑟瑟
9月4日 创建
  1. 【文档链接】

https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/MULTI_STREAM_MEMORY_REUSE.md

  1. 【页面标记】

recordStream标记的方法,保证内存复用能力,持有tensor的强引用,可能延长tensor的生命周期,当前不推荐使用

  1. 【问题类型】

描述不清楚(易理解)

  1. 【问题描述】

MULTI_STREAM_MEMORY_REUSE=2的配置在fsdp2场景下可以使用,而且针对该场景下显存累积上涨的问题能做到解决。跟文档描述不符,建议跟对应同事了解清楚,修改这个变量的解释描述

  1. 【预期结果】
    -修改为真实使用场景
likedislike
TorchNPU-BotTorchNPU-Bot成员
9月4日 添加了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月4日 评论:

issue待分派,添加triage-review标签

likedislike
Zzzzzzzk成员
9月21日 关联了pull request:Chang the doc of MULTI_STREAM_MEMORY_REUSE
TorchNPU-BotTorchNPU-Bot成员
9月21日 添加了label:bot-triaged;删除了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月21日 评论:

检测到当前 issue 已关联 PR,自动添加标签:bot-triaged

likedislike
Zzzzzzzk成员
9月21日 关联了pull request:Add the usage constrain for MULTI_STREAM_MEMORY_REUSE