已合并
add t5 config #44030
add t5 config #44030
已合并
lihui创建于 10 天前
lihui
lihui成员
10 天前

【合入来源】

如有社区issue,请关联issue链接
https://gitcode.com/Ascend/pytorch/issues/3416
请勿携带内部流程信息(需求链接、问题单、内部issue等)

  • 需求
  • 问题单
  • issue/工单
  • 重构优化
  • 资料更新

【修改方案】

在npu_support.py里面针对T5网络增加dropout算子保序副作用

【资料变更】

【接口变更】

不涉及

【功能验证】

本地验证通过

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

  • 代码注释完备,正确记录错误日志
  • 代码实现进行了返回值、空指针等校验
  • PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等
  • PR持续集成流水线(CI)执行通过,代码检查无异常
likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 lihui 的贡献)
lihuilihui成员
10 天前 创建了 pull request,commit fefa559f
atomgit-bot
atomgit-bot
10 天前 评论:

变更摘要

此 PR 将 aten.native_dropout.default 的 effectful 算子注册从 torch_npu/_inductor/dvm/decomp.py 全局位置迁移至 benchmarks/torchbench/npu_support.py_patch_model_24 函数内部。该调整使 native_dropout_EffectType.ORDERED 注册仅在 T5 模型的 benchmark 场景下生效,避免了对整个 inductor 编译流程产生全局副作用。

主要改动

  • _register_effectful_op 注册位置迁移:在 torch_npu/_inductor/dvm/decomp.py 中移除了模块顶层对 torch.ops.aten.native_dropout.default_register_effectful_op 注册(含 _EffectType 导入),将其移至 benchmarks/torchbench/npu_support.py_patch_model_24 函数内部。
  • 缩小注册生效范围native_dropout 的 ORDERED 效应注册从全局生效变为仅在 T5 benchmark patch 流程中生效,降低了对其他模型或场景的潜在干扰。
likedislike
atomgit-bot
atomgit-bot
10 天前 评论:

代码审查

审查总结

文件 审查结果
benchmarks/torchbench/npu_support.py 已审查 — 新增的 _register_effectful_op 调用(第 635-643 行)语法正确且与现有模式一致,但其所放置的上下文范围过窄(仅限基准测试补丁函数)。
torch_npu/_inductor/dvm/decomp.py 已审查 — 删除操作干净,无语法或结构问题,但删除了一个之前对 decomp.py 的所有使用者(包括生产环境 DVM 编译路径)生效的模块级副作用。

按优先级统计:

  • P2:1 个(将效果操作注册从全局 DVM 路径移至仅限基准测试的补丁所导致的行为回归)

总体风险评估: 此变更将一个影响全局的模块级注册(来自共享的 DVM 编译支持文件)重新定位到一个仅针对 T5ForConditionalGeneration 的模型特定基准测试补丁函数。如果 native_dropout_EffectType.ORDERED 注册对于 T5ForConditionalGeneration 基准测试之外的 DVM 编译正确性是必需的,则此变更会引入一个回归,可能导致生产环境 DVM 路径或其他模型基准测试中的 native_dropout 操作编译不正确。建议进行验证,以确认预期范围,并确保所有需要的路径都接收到此注册。

类型 数量
🔴 阻塞 1
🟡 建议 0

⛔ 需要修改

likedislike
lihui
lihui成员
10 天前 评论:

compile

likedislike
此处折叠了50条消息 查看更多
daifu1234567成员
7 天前 评论:

/lgtm

likedislike
ascend-robotascend-robot成员
7 天前 添加了label:lgtm
ascend-robotascend-robot成员
7 天前 删除了label:ci-pipeline-passed
ascend-robotascend-robot成员
7 天前 合入了pull request
ascend-robot
ascend-robot成员
7 天前 评论:
流水线 pytorch_gitcode_PR_multiVersion#13849 [ commitID:0521ac84 ] 运行失败
likedislike