已合并
[feature] 权重转换 #537
caishengcheng创建于 6月10日
[feature] 权重转换 #537
已合并
caishengcheng创建于 6月10日
caishengcheng成员
6月10日

PR 提交说明

提交前请阅读 CONTRIBUTING.md,开发者文档:模型接入指南

PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致)

1. 影响面评估

接口变更(按需):
新增权重转换yaml

输出件变更(按需):
新增huggingface格式的bf16保存

非兼容变更(按需):

备注:若无变更请保留「无」;若有非兼容变更请说明迁移方式。

SIG 评审结论(按需):

提醒:非兼容、安全风险等高危 PR 须经 SIG 评审后合入;无则保留「无」。

2. 修改描述

修改背景(可选):(问题现象、使用场景等)

修改目的:
新增功能:model free的量化权重转换,fp8-mxfp8、fp8-bf16、bf16-mxfp8

修改内容:
新增:core/convert
新增:convert quant service

概念域参考(填写提示):
core:新增量化服务

  • cli:命令行 quant / analyze / tune
  • app:最佳实践量化、量化分析、精度反馈自动调优等
  • core:算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等
  • infra:模型适配、调优计划/历史/缓存、测评服务等
  • utils:日志、错误处理、插件等

3. 功能验证

冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。

复现步骤(可选):

# 在此粘贴可复现命令

4. 自检(请逐项确认,不适用标 N/A)

典型安全编码问题

DT

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 caishengcheng 的贡献)
openLiBingCI成员6月10日进行代码检视1
msmodelslim/core/convert/router.py
@@ -0,0 +116,4 @@
116+ src: IRKind,
117+ dst: IRKind,
118+ constraints: RouteConstraints | None, # noqa: F821
119+ ) -> list[TransformEdge] | None:
120+ # Dijkstra on small IR graph
openLiBingCI6月10日评论:

此条代码评论区间+116+120

【openlibing.ci】识别到代码检查告警抑制注释,匹配工具:flake8,请Committer检视其合理性。

likedislike
openLiBingCI成员6月10日进行代码检视1
msmodelslim/core/convert/router.py
@@ -0,0 +116,4 @@
116+ src: IRKind,
117+ dst: IRKind,
118+ constraints: RouteConstraints | None, # noqa: F821
119+ ) -> list[TransformEdge] | None:
120+ # Dijkstra on small IR graph
openLiBingCI6月10日评论:

此条代码评论区间+116+120

【openlibing.ci】识别到代码检查告警抑制注释,匹配工具:flake8,请Committer检视其合理性。

likedislike
ascend-robotascend-robot成员
6月10日 添加了label:stat/needs-squash
ascend-robotascend-robot成员
6月10日 添加了label:ascend-cla/yes
此处折叠了207条消息 查看更多
Ccaishengcheng成员
6月11日 关联了里程碑:MindStudio 26.1.0
joejoezhou成员
6月11日 评论:

/lgtm
/approve

likedislike
ascend-robotascend-robot成员
6月11日 添加了label:approvedlgtm
ascend-robotascend-robot成员
6月11日 合入了pull request
ascend-robot
ascend-robot成员
6月11日 评论:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike