[Bug]: npu.py:concat() 是否会存在bfloat16 到float32的转换问题-torchair-AtomGit

已关闭

[Bug]: npu.py:concat() 是否会存在bfloat16 到float32的转换问题 #514

xgw创建于 6月4日关闭于 6月25日

6月4日创建

-- CANN 版本 (900):  
-- Pytorch/Torch_npu 版本 (2.10.0):
-- Python 版本 (Python3.11.x):
-- 操作系统版本 (Ubuntu 24.04):

这里的npu.py:concat() 是否会存在bfloat16 到float32的转换问题？

6月4日添加了label：bug

6月4日修改标题为 “[Bug]: npu.py:concat() 是否会存在bfloat16 到float32的转换问题”，原标题为“[Bug]: ”

6月4日评论：

麻烦描述下bug触发的条件？或者bug触发的脚本

6月4日评论：

您是否是指：bf16的concat，会被upcast成32再进行concat?

6月4日评论：

您是否是指：bf16的concat，会被upcast成32再进行concat?

是的我在使用的时候 autofuse不支持bf16
https://gitcode.com/Ascend/torchair/pull/3163/diffs
您看这个改动是否合理

6月5日评论：

您是否是指：bf16的concat，会被upcast成32再进行concat?

@medivh-x

是的我在使用的时候 autofuse不支持bf16
https://gitcode.com/Ascend/torchair/pull/3163/diffs
您看这个改动是否合理

@www_atomgit
感谢发现问题！autofuse支持bf16 concat已经在cann包中更新。 concat由于是搬运操作，类型提升会显著降低性能，因此不会对cat的输入进行类型提升。

6月8日将 medivh-x 设为负责人

6月25日评论：

当前issue已超时，暂时关闭，后续问题欢迎随时联系小助手

6月25日 issue状态由 TODO 改变为 DONE

6月25日关闭了 issue

6月25日添加了label：resolved