| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
[ci]Support llm generate .whl package Co-authored-by: forcekeng<gengli8@huawei.com> # message auto-generated for no-merge-commit merge: !45 merge cicd_whl into dev [ci]支持创建LLM .whl包 Created-by: forcekeng Commit-by: forcekeng;gengli8 Merged-by: ascend-robot Description: [CI]Support create wheel package Build llm whl 根据 [issue 96: MindIE构建发布方案评审](https://gitcode.com/Ascend/MindIE-LLM/issues/96)评审，本PR修改点： - 支持mindie-llm创建whl包，调整部分必须修改的shell和CMakeLists.txt脚本 - 将tokenizer从server的安装目录移动到 mindie_llm 目录 - server提供名称为 mindie_llm_server 的可执行文件（mindie_llm/server/main.py），直接运行能启动 server - 将acl_graph并入mindie_llm whl包 - 补充Python目录打包需要的 __init__.py 文件 - 按照评审，不再提供version.conf获取版本，直接通过pip show 获取版本 - 增加 mindie_llm/server/main.py 对应的DT - 适配tokenizer目录移动后C++ tokenizer DT变更 See merge request: Ascend/MindIE-LLM!45 | 8 个月前 | |
[dev]Synchronize code Co-authored-by: forcekeng<gengli8@huawei.com> | 9 个月前 | |
[Feature] enable multi block tables & kv cache descs Co-authored-by: coding-lz<liuzhe62@huawei.com> # message auto-generated for no-merge-commit merge: !500 merge dev_0306 into dev [Feature] enable multi block tables & kv cache descs Created-by: coding-lz Commit-by: coding-lz Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20251225 --> # 合入背景 > 请描述为什么要做这个PR内的改动。\ > 如涉及，请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题，请关联引入问题的PR。\ > 注意： Fixes #ISSUE ID会自动关闭issue，如问题部分解决请不要使用Fixes，可以用Fix part of #ISSUE ID替代. Fix part of [#234](https://gitcode.com/Ascend/MindIE-LLM/issues/234) # 修改内容 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列。\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容）。 # 资料变更 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及”。 # 接口变更 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及”。 # 测试结果 > 请说明测试场景，测试方法以及测试结果。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 # CheckList > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x]。 - [x] 代码注释完备 - [x] 正确记录错误日志 - [x] 进行了返回值校验 (禁止使用void屏蔽安全函数、自研函数返回值；考虑接口的异常场景；调用底层组件接口时，需要进行返回值校验) - [x] 进行了空指针校验 - [x] 若存在资源申请，使用后资源被正确的释放了 - [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 - [x] 按照[代码仓中提供的格式模板](https://gitcode.com/Ascend/MindIE-LLM/blob/master/.clang-format)，使用clang-format工具格式化代码 - [x] 符合Ascend社区的编码规范。[C++ 语言编程指导](https://gitcode.com/Ascend/community/blob/master/docs/contributor/Ascend-cpp-coding-style-guide.md) | [C++ 语言安全编程指导](https://gitcode.com/Ascend/community/blob/master/docs/contributor/Ascend-cpp-secure-coding-guide.md) See merge request: Ascend/MindIE-LLM!500 | 6 个月前 | |
[dev]Synchronize code Co-authored-by: forcekeng<gengli8@huawei.com> | 9 个月前 | |
[dev]Synchronize code Co-authored-by: forcekeng<gengli8@huawei.com> | 9 个月前 | |
[dev]Synchronize code Co-authored-by: forcekeng<gengli8@huawei.com> | 9 个月前 | |
[Bug]: llmmanager getmodelparam接口失败 Co-authored-by: zouzy5137<zouzongyu@huawei.com> # message auto-generated for no-merge-commit merge: !264 merge fix_getmodelparam into dev [Bug]: llmmanager getmodelparam接口失败 Created-by: zouzy5137 Commit-by: zouzy5137 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20251225 --> # 合入背景 > 请描述为什么要做这个PR内的改动。\ > 如涉及，请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题，请关联引入问题的PR。\ > 注意： Fixes #ISSUE ID会自动关闭issue，如问题部分解决请不要使用Fixes，可以用Fix part of #ISSUE ID替代. Fixes [#144](https://gitcode.com/Ascend/MindIE-LLM/issues/144) # 修改内容 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列。\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容）。 # 资料变更 “不涉及”。 # 接口变更 不涉及”。 # 测试结果 > 请说明测试场景，测试方法以及测试结果。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。  # CheckList > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x]。 - [x] 代码注释完备 - [x] 正确记录错误日志 - [x] 进行了返回值校验 (禁止使用void屏蔽安全函数、自研函数返回值；考虑接口的异常场景；调用底层组件接口时，需要进行返回值校验) - [x] 进行了空指针校验 - [x] 若存在资源申请，使用后资源被正确的释放了 - [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 - [x] 按照[代码仓中提供的格式模板](https://gitcode.com/Ascend/MindIE-LLM/blob/master/.clang-format)，使用clang-format工具格式化代码 - [x] 符合Ascend社区的编码规范。[C++ 语言编程指导](https://gitcode.com/Ascend/community/blob/master/docs/contributor/Ascend-cpp-coding-style-guide.md) | [C++ 语言安全编程指导](https://gitcode.com/Ascend/community/blob/master/docs/contributor/Ascend-cpp-secure-coding-guide.md) See merge request: Ascend/MindIE-LLM!264 | 7 个月前 | |
parse_protocol warning clear Co-authored-by: hejianping<hejianping7@huawei.com> # message auto-generated for no-merge-commit merge: !31 merge br_compile_warning_clearing into dev parse_protocol warning clear Created-by: hejianping Commit-by: hejianping Merged-by: ascend-robot Description: **合入背景** 请描述为什么要做这个PR内的改动。 LLM仓存在大量编译告警，需要清理 如涉及，请关联前序PR或同特性/需求下的其他PR。 如果是修复之前PR引入的问题，请关联引入问题的PR。 注意：Fixes #ISSUE ID会自动关闭issue，如问题部分解决请不要使用Fixes，可以用Fix part of #ISSUE ID替代. Fixes #21 **修改内容** 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列。 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容）。 清理各特性引入的编译告警 **资料变更** 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及”。 不涉及 **接口变更** 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及”。 不涉及 **测试结果** 请说明测试场景，测试方法以及测试结果。 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 config.json设置ignore_eos=false验证通过。 清理当前编译过程中产生的告警，同时增加-Werror选项，加强编译告警清理 清理后编译结果如下： [ 2%] Built target mindie_grpc [ 2%] Built target mindie_protobuf [ 5%] Built target mindie_llm_log [ 6%] Built target pd_grpc_proto_file [ 7%] Built target prefix_tree [ 10%] Built target sequence [ 17%] Built target mindie_llm_utils [ 18%] Built target memory_bridge [ 22%] Built target config_manager [ 28%] Built target mindie_block_manager [ 31%] Built target cpu_logits_handler [ 32%] Built target mindie_llm_connector [ 33%] Built target mindieservice_tokenizer Consolidate compiler generated dependencies of target mindie_scheduler [ 35%] Built target mindie_executor [ 37%] Built target mindie_load_balancer [ 46%] Built target mindie_scheduler Consolidate compiler generated dependencies of target mindie_engine [ 52%] Built target mindie_engine Consolidate compiler generated dependencies of target mindie_llm_manager_v2 [ 54%] Built target mindie_llm_manager_v2 Consolidate compiler generated dependencies of target mindieservice_infer_instances Consolidate compiler generated dependencies of target mindie_llm_manager [ 55%] Built target mindieservice_infer_instances [ 58%] Built target mindie_llm_manager Consolidate compiler generated dependencies of target llm_manager_python [ 61%] Built target llm_manager_python Consolidate compiler generated dependencies of target mindieservice_endpoint_static Consolidate compiler generated dependencies of target mindieservice_endpoint [ 62%] Building CXX object src/server/endpoint/CMakeFiles/mindieservice_endpoint.dir/http_wrapper/dmi_role.cpp.o [ 63%] Building CXX object src/server/endpoint/CMakeFiles/mindieservice_endpoint.dir/single_req_infer_interface/parse_protocol.cpp.o [ 64%] Building CXX object src/server/endpoint/CMakeFiles/mindieservice_endpoint_static.dir/single_req_infer_interface/parse_protocol.cpp.o [ 64%] Building CXX object src/server/endpoint/CMakeFiles/mindieservice_endpoint_static.dir/http_wrapper/dmi_role.cpp.o [ 64%] Linking CXX shared library libmindieservice_endpoint.so [ 65%] Linking CXX static library libmindieservice_endpoint_static.a [ 81%] Built target mindieservice_endpoint Consolidate compiler generated dependencies of target mindieservice_daemon [ 82%] Linking CXX executable mindieservice_daemon **CheckList** PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x]。 代码注释完备 正确记录错误日志 进行了返回值校验 (禁止使用void屏蔽安全函数、自研函数返回值；考虑接口的异常场景；调用底层组件接口时，需要进行返回值校验) 进行了空指针校验 若存在资源申请，使用后资源被正确的释放了 若涉及多线程场景，考虑了并发场景，不存在死锁问题 按照代码仓中提供的格式模板，使用clang-format工具格式化代码 符合Ascend社区的编码规范。C++ 语言编程指导 | C++ 语言安全编程指导 See merge request: Ascend/MindIE-LLM!31 | 8 个月前 | |
[dev]Synchronize code Co-authored-by: forcekeng<gengli8@huawei.com> | 9 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 8 个月前 | ||
| 9 个月前 | ||
| 6 个月前 | ||
| 9 个月前 | ||
| 9 个月前 | ||
| 9 个月前 | ||
| 7 个月前 | ||
| 8 个月前 | ||
| 9 个月前 |