已合并
[inductor] add fx_pass embedding_indice_i64_to_i32_pass #29405
jimmycao9929创建于 1月11日
[inductor] add fx_pass embedding_indice_i64_to_i32_pass #29405
已合并
Pull Request已成功合入, 合并人@ascend-robot
（感谢 jimmycao9929 的贡献）1月11日 创建了 pull request，commit 5c27101a
ascend-robot
1月11日 评论：
1月11日 评论：
AtlasAccount
1月11日 评论：
1月11日 评论：
ascend-robot
1月11日 评论：
1月11日 评论：
以下是根据您提交的修改文件推荐的Reviewer和Committer序列，需各模块评审通过后方可合入
| Module List | Reviewers | Committers |
|---|---|---|
| repo-Ascend/pytorch | dilililiwhy, chuboning, wangchao285, medivh-x, liangsongwei | wasd1111222, wangqiang160, zichun_ye, weizhan4, wangchao430 |
1月11日 添加了label：stat/needs-squash
此处折叠了100条消息 查看更多
1月14日 解决了最后一个问题
rain-666
1月14日 评论：
1月14日 评论：
/lgtm
/approve
1月14日 添加了label：approved
ascend-robot
1月14日 评论：
1月14日 评论：
1月14日 合入了pull request
What type of PR is this?
kind feature
What does this PR do / why do we need it:
add a fx_pass 'embedding_indice_i64_to_i32_pass' to speedup the performance of 'embedding'-related op. This pass will add _node_dtype_cast node to cast one of embedding inputs (indices) whose dtype from torch.int64 to torch.int32.
The pass can speed the following cases:
or
Which issue(s) this PR fixes:
Fixes #
Special notes for your reviewers:
For the UT case， after embedding_indice_i64_to_i32_pass is enabled, the performance can be improved 25.7%