master

ascend-robot【docs】设置aclgraph快速入门默认NPU设备(#512)

f4dfc6e5创建于 8月11日历史提交

文件	最后提交记录	最后更新时间
aclgraph_dump_instruct.md	【docs】设置aclgraph快速入门默认NPU设备(#512) Co-authored-by: Tjh-UKN<2559659915@qq.com> # message auto-generated for no-merge-commit merge: !943 merge docs/aclgraph-default-device-512 into master 【docs】设置aclgraph快速入门默认NPU设备(#512) Created-by: Tjh-UKN Commit-by: Tjh-UKN Merged-by: ascend-robot Description: # Pull Request ## 修改说明 - 在 aclgraph_dump 整网采集快速入门中设置默认设备为 npu:0。 - 确保 AclGraphDumper 的动态采集开关在 ACLGraph 编图前直接创建于 NPU，避免捕获阶段触发同步 H2D aclrtMemcpy。 ## 修改类型 - [ ] Bug 修复 - [ ] 新功能 - [ ] 代码重构 - [x] 文档更新 ## 关联 issue Closes #512 ## 自验结果 - [x] git diff --check 通过 - [x] 910B4 / CANN 8.5 / TorchNPU 2.10 单卡快速入门完成 10 次 replay，生成 10 个 dump.json - [x] torchrun --standalone --nproc-per-node=2 双卡验证完成 10 次 replay/rank，生成 20 个 dump.json - [x] 未出现 aclrtMemcpy 107030 或 capture mode 错误 See merge request: Ascend/msprobe!943	1 个月前
atb_data_dump_instruct.md	docs:index表格调整 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !924 merge master into master docs:index表格调整 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: 1、index表格调整 2、CANN相关链接改为latest，保证master链接始终为最新版本 See merge request: Ascend/msprobe!924	1 个月前
config_json_introduct.md	【Doc】动态图多batch支持指定request采集资料 Co-authored-by: HowSir_X<zhonghao31@huawei.com> # message auto-generated for no-merge-commit merge: !932 merge request_id_doc into master 【Doc】动态图多batch支持指定request采集资料 Created-by: HowSir_X Commit-by: HowSir_X Merged-by: ascend-robot Description: 【Doc】动态图多batch支持指定request采集资料  See merge request: Ascend/msprobe!932	1 个月前
data_parse_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
debugger_save_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
infer_offline_dump_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
mindspore_data_dump_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
mindspore_dump_quick_start.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
msadapter_data_dump_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
pytorch_data_dump_instruct.md	【Doc】动态图多batch支持指定request采集资料 Co-authored-by: HowSir_X<zhonghao31@huawei.com> # message auto-generated for no-merge-commit merge: !932 merge request_id_doc into master 【Doc】动态图多batch支持指定request采集资料 Created-by: HowSir_X Commit-by: HowSir_X Merged-by: ascend-robot Description: 【Doc】动态图多batch支持指定request采集资料  See merge request: Ascend/msprobe!932	1 个月前
pytorch_kernel_dump_instruct.md	docs:index表格调整 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !924 merge master into master docs:index表格调整 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: 1、index表格调整 2、CANN相关链接改为latest，保证master链接始终为最新版本 See merge request: Ascend/msprobe!924	1 个月前
sglang_eager_dump_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
sglang_eager_dump_instruct_new.md	docs:链接问题修改 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !891 merge master into master docs:链接问题修改 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: 链接的文档目录结构变化导致链接失效，更新链接 See merge request: Ascend/msprobe!891	2 个月前
slime_consistency_preprocess_dump.md	【Docs】新增slime框架训推一致性预处理以及数据采集指南 Co-authored-by: weixin_45649869<756669746@qq.com> # message auto-generated for no-merge-commit merge: !865 merge master into master 【Docs】新增slime框架训推一致性预处理以及数据采集指南 Created-by: weixin_45649869 Commit-by: weixin_45649869 Merged-by: ascend-robot Description: ## Summary 新增 slime 框架**训推一致性**精度数据采集指南：docs/zh/user_guide/dump/slime_consistency_preprocess_dump.md，并在 README.md 增加入口链接。 文档说明在 slime（Megatron 训练 + SGLang 推理）下，如何保证 prefill 输入一致，并分别采集训推两侧 msProbe 数据用于比对。主要覆盖： - **预处理**：prompt-only 对齐、padding/TP 约束、训推并行切分一致、DP/chunked prefill 注意点 - **采集配置**：训推两侧 config.json 示例 - **训练侧**：DUMP_ON=1 + PROMPTS_ONLY=1，仅采 old_log_prob（含代码 diff 参考） - **推理侧**：按 SGLang 版本选择插桩方式，跳过 dummy forward - **结果与比对**：dump 目录说明 + msprobe graph_visualize 用法 ## 变更说明 | 变更项 | 说明 | |--------|------| | 新增 | docs/zh/user_guide/dump/slime_consistency_preprocess_dump.md | | 修改 | README.md（Slime 场景新增链接） | 与 slime_train_rollout_dump_instruct.md 的区别：本文档聚焦**训推一致性比对**（输入对齐 + 两侧 dump 比对），训练侧仅采 old_log_prob，并补充预处理约束与可视化比对流程。 ## 变更类型 - [x] 文档（Docs） ## Test plan - [ ] 文档内链接可正常访问 - [ ] 按文档配置后，训练 dump 落在 old_log_prob/step0/，推理 dump 落在 generate/step0/ - [ ] prompt-only 对齐后，训推 embedding 统计量一致 - [ ] msprobe graph_visualize 可正常生成比对结果 ## 训推一致采集示例： ### Qwen3-4B:  ### 某MoE模型：  ## 关联 Issue Related to https://gitcode.com/Ascend/msprobe/issues/476 <!-- 若无对应 Issue，可删除上一行，或改为：Related to #<issue编号> --> See merge request: Ascend/msprobe!865	2 个月前
slime_train_rollout_dump_instruct.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
torchair_dump_instruct.md	docs:文档优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !879 merge master into master docs:文档优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: 2、PyTorch相关资料改名为TorchNPU 3、文档低错优化 See merge request: Ascend/msprobe!879	2 个月前
verl_async_consistency_preprocess_dump.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
verl_fsdp_consistency_preprocess_dump.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
verl_megatron_consistency_preprocess_dump.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
verl_token_level_probs_diff_monitoring.md	docs:资料优化 Co-authored-by: cai-weiwei1989<734267852@qq.com> # message auto-generated for no-merge-commit merge: !856 merge master into master docs:资料优化 Created-by: cai-weiwei1989 Commit-by: cai-weiwei1989 Merged-by: ascend-robot Description: docs:资料优化 1、目录结构根据新要求修改，对应更新全部文档链接 2、拼写错误、用词不当等低错修改以及描述优化等 3、资料中涉及torch_npu的**非代码相关**字段统一改为**TorchNPU**；Ascend Extension for PyTorch统一改为Ascend for PyTorch 4、docs/zh/quick_start/pytorch_quick_start.md补充使用conda安装环境说明 See merge request: Ascend/msprobe!856	3 个月前
vllm_dump_instruct.md	【Doc】动态图多batch支持指定request采集资料 Co-authored-by: HowSir_X<zhonghao31@huawei.com> # message auto-generated for no-merge-commit merge: !932 merge request_id_doc into master 【Doc】动态图多batch支持指定request采集资料 Created-by: HowSir_X Commit-by: HowSir_X Merged-by: ascend-robot Description: 【Doc】动态图多batch支持指定request采集资料  See merge request: Ascend/msprobe!932	1 个月前