[Bug]: 不支持fp8_param_gather打开，缺失replace_raw_data函数-TransformerEngineNPU-AtomGit

Star8

Star8

已关闭

[Bug]: 不支持fp8_param_gather打开，缺失replace_raw_data函数 #26

gsoleil创建于 8月10日关闭于 8月17日

8月10日创建

8月10日创建

环境信息

- 操作系统:openeuler
- 昇腾硬件信息:25.1.rc1.b192
- CANN软件版本:9.1.0
- 安装的对应软件版本:torch==2.7.1\torch_npu==2.7.1.post8

🐛 问题描述

fp8场景下不额外配置会默认开启fp8-param-gather，此时会报缺失replace_raw_data函数，如果直接复制粘贴gpu版的这段代码，import部分会有报错，说循环引用了有冲突，把import放到def函数里面可以规避，但会报错float8_e4m3fn和uint8不匹配。

最后我直接定义这个函数，然后函数里面只写pass来规避这个类型检测转换，这块好像解决了但后面出现None了，不确定是不是因为这个导致的

欢迎加入社区，感谢您对社区的贡献 🎉!

ascend-robot成员

8月10日添加了label：bug

8月10日添加了label：bug

8月10日修改了issue 的描述

8月10日修改了issue 的描述

8月10日修改了issue 的描述

8月10日修改了issue 的描述

C clc2025成员

8月10日将 clc2025 设为负责人

8月10日将 clc2025 设为负责人

C clc2025成员

8月11日将 goodflower9 设为负责人

8月11日将 goodflower9 设为负责人

C clc2025成员

8月11日移除了负责人 clc2025

8月11日移除了负责人 clc2025

wangjunhang777成员

8月11日关联了pull request：feat(checkpoint): support quantized tensor serialization

8月11日关联了pull request：feat(checkpoint): support quantized tensor serialization

wangjunhang777成员

8月11日关联了pull request：[WIP]feat(fp8): support tensorwise sharded weight requantization

8月11日关联了pull request：[WIP]feat(fp8): support tensorwise sharded weight requantization

wangjunhang777成员

8月14日关联了pull request：feat(fp8): integrate batched primary-weight requantization

8月14日关联了pull request：feat(fp8): integrate batched primary-weight requantization

ascend-robot成员

8月17日关闭了 issue

8月17日关闭了 issue

wangjunhang777成员

8月17日评论：

8月17日评论：

你好，目前fp8_param_gather暂时不直接支持MXFP8（NVIDA的TE同样不支持），如果需要使用的话，需要加入
--reuse-grad-buf-for-mxfp8-param-ag

wangjunhang777成员

8月17日 issue状态由 TODO 改变为 DONE

8月17日 issue状态由 TODO 改变为 DONE

ascend-robot成员

8月17日添加了label：resolved

8月17日添加了label：resolved