flex_smooth_quant 配置说明

1. 配置概述

FlexSmoothQuant 平滑量化处理器配置。

项目 内容
配置类 FlexSmoothQuantProcessorConfig
源码 processor.py

2. 参数列表

2.1 FlexSmoothQuantProcessorConfig

字段路径 类型 必选/可选 默认值 取值范围或格式 含义 引用配置
type string 可选 flex_smooth_quant flex_smooth_quant 处理器类型,固定为 flex_smooth_quant。 无
alpha float 可选 null — 激活→权重的平滑迁移强度(0~1),越大迁移越多离群值到权重。 无
beta float 可选 null — 额外的平滑调优系数(0~1),配合 alpha 使用。 无
enable_subgraph_type list[any] 可选 ['norm-linear', 'linear-linear', 'ov', 'up-down'] — 应用平滑的子图类型列表,默认 norm-linear、linear-linear、ov、up-down。 无
include list[string] / null 可选 null — 包含的模块名称模式;不设置表示全部匹配。 无
exclude list[string] / null 可选 null — 排除的模块名称模式,优先级高于 include。 无

配置约束

  • 无。

3. 完整配置参考

apiversion: modelslim_v1
spec:
  process:
  - type: flex_smooth_quant
    enable_subgraph_type:
    - norm-linear
    - linear-linear
    - ov
    - up-down