已关闭
[Bug]: benchmarks/llm 样例默认启用远端代码执行 #5082
liuyutong创建于  9月24日关闭于  9月29日
liuyutong
liuyutong成员
9月24日 创建

问题描述

部分 benchmarks/llm 训练样例在加载模型、分词器或处理器时默认启用了 trust_remote_code=True。当用户传入远程模型仓库时,Transformers 可能下载并执行仓库中的自定义 Python 代码,执行权限与当前用户一致,而样例未要求显式确认可信来源。

此外,个别样例的模型路径默认值包含开发环境中的个人绝对路径,不适合作为开源样例默认配置。

风险影响

用户执行训练脚本并指定未经验证的远程模型仓库时,模型仓库中的自定义建模或分词代码可能被执行,存在任意代码执行风险。模型、Tokenizer 和 Processor 的远端代码加载均受影响。

整改方案

  1. 对 Transformers 已原生支持的 Mamba2、Qwen3、Qwen2VL、Llama3、GPT-OSS 和 GLM4,删除冗余的 trust_remote_code=True。
  2. Baichuan2 因架构依赖远端代码,改为默认关闭的 --trust-remote-code 显式开关。
  3. Baichuan2 从远程仓库启用远端代码时,要求通过 --revision 固定完整 commit hash;本地已校验模型目录不强制该参数。
  4. 删除 Mamba2 和 Qwen2VL 样例中的个人绝对模型路径默认值,改为必填参数。
  5. 在相关 README 中补充远端代码执行风险、可信来源和固定 revision 的使用说明。

验收标准

  • 原生支持模型的样例中不存在硬编码 trust_remote_code=True。
  • Baichuan2 默认不信任远端代码,仅在用户显式传入开关时启用。
  • Baichuan2 使用远程模型且启用远端代码时,未固定完整 commit hash 应在加载前拒绝执行。
  • 样例中不包含个人绝对路径默认值。
  • 修改覆盖 master 及仍维护的相关版本分支,并通过代码规范、语法和最小加载验证。
likedislike
ascend-robotascend-robot成员
9月24日 添加了label:bug
TorchNPU-BotTorchNPU-Bot成员
9月24日 添加了label:triage-reviewmodule: usability;删除了label:bug
TorchNPU-Bot
TorchNPU-Bot成员
9月24日 评论:

问题指向 benchmarks/llm 样例代码与文档的安全整改(trust_remote_code 默认值、路径默认值、README 说明),属样例易用性与文档类问题
添加分类标签:module: usability。
当前分类由社区bot提供,如分类有误请在评论中回复。

likedislike
ascend-robotascend-robot成员
9月24日 添加了label:bug
TorchNPU-BotTorchNPU-Bot成员
9月24日 添加了label:bot-triaged;删除了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月24日 评论:

检测到当前 issue 已关联 PR,自动添加标签:bot-triaged

likedislike
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
liuyutongliuyutong成员
9月24日 关联了pull request:fix(benchmark): restrict remote model code execution
chenrayraychenrayray成员
9月24日 关联了里程碑:v26.2.0
chenrayray
chenrayray成员
9月29日 评论:

因为本单相关实施 PR 已全部结束(13 个已合入、0 个已关闭),按照本轮 issue 整理规则,先关闭此单。

核对的 PR:

如仍有问题或需要继续推进,请重新打开,并补充当前 PyTorch / TorchNPU / CANN 版本、硬件环境、复现步骤及相关日志;需求类请补充尚未完成的具体内容。

likedislike
chenrayraychenrayray成员
9月29日 关闭了 issue
chenrayraychenrayray成员
9月29日 issue状态由 TODO 改变为 DONE
ascend-robotascend-robot成员
9月29日 添加了label:resolved