| init
| 7 个月前 |
| init
| 7 个月前 |
| init
| 7 个月前 |
| init
| 7 个月前 |
| [Bugfix]HIXL以及LLM-Datadist执行使用独立的RTS Context，避免在异常场景与用户使用默认RTS Context相互冲突
Co-authored-by: zhaozhihui<zhaozhihui5@huawei.com>
# message auto-generated for no-merge-commit merge:
!40 merge dev into master
[Bugfix]HIXL以及LLM-Datadist执行使用独立的RTS Context，避免在异常场景与用户使用默认RTS Context相互冲突
Created-by: zhaozhihui
Commit-by: zhaozhihui
Merged-by: turing_project1
Description: ## 描述
<!--在这里详细描述你的改动，包括改动的原因和所采取的方法。-->
A3的KV Cache传输流程使用了AICPU展开能力，用以提升传输性能；如果KV Cache传输和模型执行均使用相同的RTS Context，即通过set device方式使用默认Context;
在异常场景下，如果KV Cache传输失败，将会影响模型执行；
因此KV Cache传输过程可独立申请使用的Context, 不使用默认Context, 与模型执行的Context进行隔离。同时需要在执行用户接口前后进行Context切换；
## 关联的Issue
<!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #123-->
## 测试
<!--描述进行了哪些测试来验证你的改动。-->
执行用例：用户进程初始化时set device，并执行KV传输，查看日志关键字是否RTS Context完成切换。
## 文档更新
<!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。-->
## 类型标签
<!-- [x] 表示选中 -->
- [x] Bug修复
- [ ] 新特性
- [ ] 性能优化
- [ ] 文档更新
- [ ] 其他，请描述：
See merge request: cann/hixl!40 | 6 个月前 |
| [CI]工程打包能力优化，支持指定三方包依赖，并多次编译复用；删除ascend_install_path，通过run包安装后的环境变量探测
Co-authored-by: zhaozhihui<zhaozhihui3@yeah.net>
# message auto-generated for no-merge-commit merge:
!9 merge dev into master
[CI]工程打包能力优化，支持指定三方包依赖，并多次编译复用；删除ascend_install_path，通过run包安装后的环境变量探测
Created-by: zhaozhihui
Commit-by: zhaozhihui
Merged-by: turing_project1
Description: ## 描述
<!--在这里详细描述你的改动，包括改动的原因和所采取的方法。-->
包含如下工程优化：
1. 支持多次编译时，删除build缓存仍然可以复用三方包依赖，不用再次下载编译
2. 删除冗余参数ascend_install_path，run包安装并source环境变量后，可以感知到run包发布件路径，无需用户通过ascend_install_path参数指定
3. 减少run包中头文件依赖
## 关联的Issue
<!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #123-->
<!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。-->
## 测试
<!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟等。-->
## 文档更新
<!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。-->
## 类型标签
<!-- [x] 表示选中 -->
- [ ] Bug修复
- [ ] 新特性
- [ ] 性能优化
- [ ] 文档更新
- [x] 其他，请描述：CI工程优化
See merge request: cann/hixl!9 | 7 个月前 |
| [Bugfix]HIXL以及LLM-Datadist执行使用独立的RTS Context，避免在异常场景与用户使用默认RTS Context相互冲突
Co-authored-by: zhaozhihui<zhaozhihui5@huawei.com>
# message auto-generated for no-merge-commit merge:
!40 merge dev into master
[Bugfix]HIXL以及LLM-Datadist执行使用独立的RTS Context，避免在异常场景与用户使用默认RTS Context相互冲突
Created-by: zhaozhihui
Commit-by: zhaozhihui
Merged-by: turing_project1
Description: ## 描述
<!--在这里详细描述你的改动，包括改动的原因和所采取的方法。-->
A3的KV Cache传输流程使用了AICPU展开能力，用以提升传输性能；如果KV Cache传输和模型执行均使用相同的RTS Context，即通过set device方式使用默认Context;
在异常场景下，如果KV Cache传输失败，将会影响模型执行；
因此KV Cache传输过程可独立申请使用的Context, 不使用默认Context, 与模型执行的Context进行隔离。同时需要在执行用户接口前后进行Context切换；
## 关联的Issue
<!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #123-->
## 测试
<!--描述进行了哪些测试来验证你的改动。-->
执行用例：用户进程初始化时set device，并执行KV传输，查看日志关键字是否RTS Context完成切换。
## 文档更新
<!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。-->
## 类型标签
<!-- [x] 表示选中 -->
- [x] Bug修复
- [ ] 新特性
- [ ] 性能优化
- [ ] 文档更新
- [ ] 其他，请描述：
See merge request: cann/hixl!40 | 6 个月前 |
| init
| 7 个月前 |
