已合并
add t5 config #44030
lihui创建于 10 天前
add t5 config #44030
已合并
Pull Request已成功合入, 合并人@ascend-robot
(感谢 lihui 的贡献)ascend-robot
10 天前 评论:
10 天前 评论:
atomgit-bot
10 天前 评论:
10 天前 评论:
变更摘要
此 PR 将 aten.native_dropout.default 的 effectful 算子注册从 torch_npu/_inductor/dvm/decomp.py 全局位置迁移至 benchmarks/torchbench/npu_support.py 的 _patch_model_24 函数内部。该调整使 native_dropout 的 _EffectType.ORDERED 注册仅在 T5 模型的 benchmark 场景下生效,避免了对整个 inductor 编译流程产生全局副作用。
主要改动
_register_effectful_op注册位置迁移:在torch_npu/_inductor/dvm/decomp.py中移除了模块顶层对torch.ops.aten.native_dropout.default的_register_effectful_op注册(含_EffectType导入),将其移至benchmarks/torchbench/npu_support.py的_patch_model_24函数内部。- 缩小注册生效范围:
native_dropout的 ORDERED 效应注册从全局生效变为仅在 T5 benchmark patch 流程中生效,降低了对其他模型或场景的潜在干扰。


atomgit-bot
10 天前 评论:
10 天前 评论:
代码审查
审查总结
| 文件 | 审查结果 |
|---|---|
benchmarks/torchbench/npu_support.py |
已审查 — 新增的 _register_effectful_op 调用(第 635-643 行)语法正确且与现有模式一致,但其所放置的上下文范围过窄(仅限基准测试补丁函数)。 |
torch_npu/_inductor/dvm/decomp.py |
已审查 — 删除操作干净,无语法或结构问题,但删除了一个之前对 decomp.py 的所有使用者(包括生产环境 DVM 编译路径)生效的模块级副作用。 |
按优先级统计:
- P2:1 个(将效果操作注册从全局 DVM 路径移至仅限基准测试的补丁所导致的行为回归)
总体风险评估: 此变更将一个影响全局的模块级注册(来自共享的 DVM 编译支持文件)重新定位到一个仅针对 T5ForConditionalGeneration 的模型特定基准测试补丁函数。如果 native_dropout 的 _EffectType.ORDERED 注册对于 T5ForConditionalGeneration 基准测试之外的 DVM 编译正确性是必需的,则此变更会引入一个回归,可能导致生产环境 DVM 路径或其他模型基准测试中的 native_dropout 操作编译不正确。建议进行验证,以确认预期范围,并确保所有需要的路径都接收到此注册。
| 类型 | 数量 |
|---|---|
| 🔴 阻塞 | 1 |
| 🟡 建议 | 0 |
⛔ 需要修改


lihui
10 天前 评论:
10 天前 评论:
compile


此处折叠了50条消息 查看更多
daifu1234567
7 天前 评论:
7 天前 评论:
/lgtm


7 天前 添加了label:lgtm
7 天前 删除了label:ci-pipeline-passed
7 天前 合入了pull request
ascend-robot
7 天前 评论:
7 天前 评论:
流水线 pytorch_gitcode_PR_multiVersion#13849 [ commitID:0521ac84 ] 运行失败


【合入来源】
【修改方案】
在npu_support.py里面针对T5网络增加dropout算子保序副作用
【资料变更】
否
【接口变更】
不涉及
【功能验证】
本地验证通过
【CheckList】