数据类型:MXFP8 / MXFP4 量化术语百科词条

词条类别:量化基础概念(量化基础英文名称:MXFP8 / MXFP4(Microscaling Formats) 应用领域:权重、激活量化,超低比特压缩


1. 概述

MX(Microscaling,微缩放)是 OCP(Open Compute Project,开放计算项目)定义的一类块级共享指数格式:每 32个元素为一块,整块共享一个 E8M0 指数(8位指数、0位尾数),元素只保存相对该指数的低位数据。块内元素共享同一数量级,从而以少量位宽覆盖大动态范围,缩放参数开销也摊薄到每32元素一份。


2. 词条介绍

MXFP8

  • 结构:块共享 E8M0 指数 + 元素为 E4M3(1符号 + 4指数 + 3尾数)。
  • 特点:8位位宽、访存为 FP16/BF16 一半,同时保留浮点动态范围;相比 INT8 均匀分档对离群值更耐受。
  • 应用:如 W8A8 MX 动态量化

MXFP4

  • 结构:块共享 E8M0 指数 + 元素为 E2M1(1符号 + 2指数 + 1尾数,emax=2、max 6)。
  • 特点:4位位宽、压缩比高,块级共享指数保留了浮点动态范围;对离群值比 INT4 均匀分档更耐受。
  • 应用:如 W4A4 MX 动态量化W4A4 MX 双 Scale 量化

与相关类型对比

  • 相比 FP8(E4M3):MXFP8 块级共享指数,缩放参数开销从每元素一份摊薄到每32元素一份;代价是块粒度较粗、需硬件 MX 支持。
  • 相比 INT4:MXFP4 用块级共享指数保留动态范围、对离群值更耐受;代价是依赖 MX 硬件、最后维需 32 对齐。

3. 关联流程


4. 关联词条


5. 参考文档

  1. 量化模式