| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
support npu snapshot Co-authored-by: qq_40517592<panhailin@huawei.com> # message auto-generated for no-merge-commit merge: !1660 merge npu_s01 into master support npu snapshot Created-by: qq_40517592 Commit-by: qq_40517592 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> runtime快照备份和恢复 主要流程: 用户调用AclrtSnapShotProcessLock 锁住runtime进程 -> 用户调用AclrtSnapShotProcessBackup 进行runtime device侧数据备份 -> 用户使用os criu工具对当前runtime进程数据进行备份,存入磁盘 -> 用户使用os criu工具对存入磁盘备份的数据进行恢复,拉起runtime进程 -> 恢复流程中用户调用AclrtSnapShotProcessRestore 恢复runtime device侧数据 -> 用户调用AclrtSnapShotProcessUnlock,runtime进程正常运行 修改点: 1.修改device资源相关API接口,加锁,保证runtime进程在locked状态其他线程不能操作device相关作接口 2.修改npu 快照备份流程,备份算子.o、任务参数、stream/notify/cntnotify、va、pa等数据,对这些数据进行d2h 3.修改npu 快照恢复流程,恢复算子.o、任务参数、stream/notify/cntnotify、va、pa等数据,对这些数据进行h2d ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#449](https://gitcode.com/cann/runtime/issues/449) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 1.执行npu快照相关测试用例,用例执行通过 2.rdv执行通过无报错 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/runtime!1660 | 6 个月前 | |
support npu snapshot Co-authored-by: qq_40517592<panhailin@huawei.com> # message auto-generated for no-merge-commit merge: !1660 merge npu_s01 into master support npu snapshot Created-by: qq_40517592 Commit-by: qq_40517592 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> runtime快照备份和恢复 主要流程: 用户调用AclrtSnapShotProcessLock 锁住runtime进程 -> 用户调用AclrtSnapShotProcessBackup 进行runtime device侧数据备份 -> 用户使用os criu工具对当前runtime进程数据进行备份,存入磁盘 -> 用户使用os criu工具对存入磁盘备份的数据进行恢复,拉起runtime进程 -> 恢复流程中用户调用AclrtSnapShotProcessRestore 恢复runtime device侧数据 -> 用户调用AclrtSnapShotProcessUnlock,runtime进程正常运行 修改点: 1.修改device资源相关API接口,加锁,保证runtime进程在locked状态其他线程不能操作device相关作接口 2.修改npu 快照备份流程,备份算子.o、任务参数、stream/notify/cntnotify、va、pa等数据,对这些数据进行d2h 3.修改npu 快照恢复流程,恢复算子.o、任务参数、stream/notify/cntnotify、va、pa等数据,对这些数据进行h2d ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#449](https://gitcode.com/cann/runtime/issues/449) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 1.执行npu快照相关测试用例,用例执行通过 2.rdv执行通过无报错 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/runtime!1660 | 6 个月前 |