已合并
lazy query events #30998
liubuyu1创建于 2月25日
lazy query events #30998
已合并
liubuyu1创建于 2月25日
liubuyu1
liubuyu1
2月25日

【合入来源】

(如有)请关联需求文档/issue链接

【修改方案】

请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列
如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容)

内存申请流程中,将原来的每次申请即查询event,修改为event数量达到上限后再查询,降低查询次数,提升host性能。

【资料变更】

请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及”

文档中新增环境变量PYTORCH_NPU_ALLOC_CONF=multi_stream_lazy_reclaim:True说明。

【接口变更】

请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及”

新增环境变量export PYTORCH_NPU_ALLOC_CONF=multi_stream_lazy_reclaim:True,控制event延迟查询功能开启。

【功能验证】

说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤
新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图

新增测试用例,使用profiling功能对比功能开启前后event查询次数
image.png

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 liubuyu1 的贡献)
liubuyu1liubuyu1
2月25日 创建了 pull request,commit adc5ac7d
ascend-robot
ascend-robot成员
2月25日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here
You can get sig-info at here


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
docs liujunzhu, molly123321 (2/2) liujunzhu (1/1)
repo-Ascend/pytorch liujunzhu, hbhu_bin (2/2) liujunzhu (1/1)
test liujunzhu, hbhu_bin (2/2) liujunzhu (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)
likedislike
ascend-robotascend-robot成员
2月25日 添加了label:ascend-cla/no
liubuyu1
liubuyu1
2月25日 评论:

compile

likedislike
此处折叠了282条消息 查看更多
ascend-robotascend-robot成员
3月4日 合入了pull request
ascend-robot
ascend-robot成员
3月4日 评论:

Review Guide

This pull-request passes review.
Committers who wrote a comment of /approve are: liujunzhu.
Reviewers who wrote a comment of /lgtm are: liujunzhu, hbhu_bin, molly123321.

likedislike
ascend-robot
ascend-robot成员
3月4日 评论:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike
ascend-robot
ascend-robot成员
3月4日 评论:

Review Guide

This pull-request passes review.
Committers who wrote a comment of /approve are: liujunzhu.
Reviewers who wrote a comment of /lgtm are: molly123321, liujunzhu, hbhu_bin.

likedislike
ascend-robot
ascend-robot成员
3月4日 评论:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike