Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud（背景信息）

传统FP8（E4M3/E5M2）指数范围有限（18或32个阶码），E4M3保证了众数的精度，但是由于动态范围有限，无法很好表达极大值或极小值；E5M2动态范围相对较大，但整体数据精度低于4位有效位的E4M3。无论E4M3还是E5M2，使用粗粒度Delayed Scaling策略，都会降低训练稳定性或者模型的最终质量。HiF8具有锥形精度特征，在提供更大的指数范围（38个阶码）的同时仍保持对众数数据的较高精度。基于此，HiF8能显著降低溢出风险，增强Delayed Scaling训练的稳定性，并在确保端到端精度的同时有效提升整体系统效率。

Origin（信息来源）

华为海思

Benefit / Necessity （价值/作用）

HiFloat8（HiF8）通过创新的浮点数格式设计，呈现出锥形精度特征，显著扩展了可表示的动态范围，从而在混合精度训练中同时兼具高效计算与稳定收敛的优势。在Per-tensor/Per-block Scaling以及Current/Delayed Scaling等关键量化组件中，HiF8均展现出更高的鲁棒性与更低的系统开销。实验结果表明，HiF8在大规模模型预训练中能够保持与高精度 BF16相当的收敛性能，并在多项下游评测任务中实现无损或近乎无损的精度表现。在维持与BF16持平的训练质量的同时，HiF8显著提可提升端到端训练效率，展现出了作为下一代大模型训练核心技术路径的潜在价值。

Design（设计方案）