已合并
[Doc] Qwen2-VL README 补充 Atlas 200I Pro 推理显存与内存配置说明 #1077
[Doc] Qwen2-VL README 补充 Atlas 200I Pro 推理显存与内存配置说明 #1077
已合并
daimingkun1创建于 6月25日
daimingkun1
daimingkun1
6月25日

合入背景

Atlas 200I Pro 加速模块属于 RC 设备,NPU 显存与系统内存共用同一物理内存池。用户在 200I Pro 上部署 Qwen2-VL / Qwen2.5-VL 等多模态模型时,若仅关注显存而忽略内存预留,或相关推理参数配置过高,容易出现显存与内存竞争导致 OOM。现有 qwen2_vl/README.md 对 800I A2、300I DUO 等平台已有说明,但缺少针对 200I Pro 的专项提示,需补充文档以降低部署风险。
#652

修改内容

修改部署指导。

资料变更

增加限制说明

接口变更

不涉及

测试结果

不涉及

CheckList

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]。

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 daimingkun1 的贡献)
ascend-robotascend-robot成员
6月25日 添加了label:stat/needs-squash
ascend-robotascend-robot成员
6月25日 添加了label:ascend-cla/yes
ascend-robot
ascend-robot成员
6月25日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here


PR Approval Progress

✅ Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
repo-Ascend/MindIE-LLM ✅ niushiya, chenzhinan1212 (2/2) ✅ niushiya (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

dai-mingkun, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
ascend-robotascend-robot成员
6月25日 添加了label:needs-issue
ascend-robot
ascend-robot成员
6月25日 评论:

Linking Issue Notice

@dai-mingkun , the pull request must be linked to at least one issue.
If an issue has already been linked, but the needs-issue label remains, you can remove the label by commenting /check-issue .

likedislike
此处折叠了74条消息 查看更多
ascend-robotascend-robot成员
6月26日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
6月26日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
6月26日 评论:
流水线 PR-pipeline_MindIE-LLM_gitcode#5689 [ commitID:60c6e304 ] 已完成
>>>代码风格自动修复执行成功(无修复内容)
阶段 任务名 状态 详情
编译构建 Build_ops_x86_A3 ✅ >>>
Build_ops_arm_A3 ✅ >>>
Build_ops_x86_A2 ✅ >>>
Build_ops_arm_A2 ✅ >>>
Build_linux_x86_abi1_atb ✅ >>>
Build_linux_x86_abi1_llm ✅ >>>
Build_linux_arm_abi1_atb ✅ >>>
Build_linux_arm_abi1_llm ✅ >>>
Build_linux_arm_abi0_atb ✅ >>>
Build_linux_arm_abi0_llm ✅ >>>
恶意代码检查 Antipoison ✅ >>>
编码安全与规范检查 pre-commit ✅ >>>
开源片段检查 SCA ✅ >>>
开发者测试 UT_linux_arm_mindie-llm ✅ >>>
UT_linux_arm_atb-models ✅ >>>
流水线 PR-pipeline_MindIE-LLM_gitcode ✅ >>>
此流水线已支持下列评论快捷指令,仅PR创建者和白名单成员评论有效
  • compile : 运行流水线
  • retry : 重试流水线所有失败子任务
  • retry <任务名> : 仅重试指定失败子任务
  • stop : 停止流水线
likedislike
ascend-robotascend-robot成员
6月26日 合入了pull request
ascend-robot
ascend-robot成员
6月26日 评论:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike