已关闭
动态shape微调Qwen2.5失败,报错ValueError: pad_token_id should be list. #37
chenrayray创建于  2025年3月21日关闭于  2025年4月8日
chenrayray
chenrayray成员
2025年3月21日 创建

1.Describe the current behavior / 问题描述 (Mandatory / 必填)

qwen2_5 微调失败,报错ValueError: pad_token_id should be list.

2.Environment / 环境信息 (Mandatory / 必填)

  • Hardware Environment / 硬件环境(Mandatory / 必填):
    Ascend910B1

  • Software Environment / 软件环境 (Mandatory / 必填):
    迭代版本新增问题样例:(根据实际修改和增删)

Software Version(根据实际修改,必填)
MindSpore MindSpore 2.6.0
MindFormers dev(aa1f73ae8e08ab9e2b97d6d9dd7419c01f7f692e)
Python Python 3.10

3.Related testcase / 关联用例 (Mandatory / 必填)

不涉及

4.Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

bash scripts/msrun_launcher.sh "run_mindformer.py
--config ./finetune_qwen_2_5_7b_dyn.yaml
--run_mode finetune
--train_data .r1/save_data/ " 8

5.Describe the expected behavior / 预期结果 (Mandatory / 必填)

【预期结果】:qwen2_5 sft流程正常

6.Related log / screenshot / 日志 / 截图 (Mandatory / 必填)

输入图片说明

7.Special notes for this issue/备注 (Optional / 选填)

**【定位人】杨国栋(根据实际修改)

likedislike
chenrayraychenrayray成员
2025年3月21日 创建了Bug-Report
chenrayraychenrayray成员
2025年3月21日 添加了问题后端类型的 Ascend 选项
chenrayraychenrayray成员
2025年3月21日 添加了关联分支的 master 选项
chenrayraychenrayray成员
2025年3月21日 将负责人设置为魏琢艺
司小南(机器人)
司小南(机器人)成员
2025年3月21日 评论:

请参考以下典型优秀案例进行问题单根因分析,如未按此模板进行根因分析,转回归会被打回,更多问题单规范请参看https://e.gitee.com/mind_spore/docs/2489468/file/5767947?sub_id=11382313&scope=undefined

Appearance & Root Cause
问题:pangu_sigma2.3编译耗时优化未达预期
根因:
1、 2.3上某些pass相比于2.2版本的实现,存在性能劣化
2、 2.3版本把trace功能下掉了,导致前端编译劣化

Fix Solution
1、修复性能劣化的前端图优化pass
2、通过支持boost infer功能把trace功能下掉导致的性能劣化拿回来

Fix Description & Test Suggestion
https://gitee.com/mindspore/mindspore/pulls/70920 PR合入后daily包回归
测试建议:该问题可以通过特性用例防护,增加****场景。

Self-test Report & DT Review
目前前后端耗时在12分钟以内。
是否需要补充 ST/UT:否 如果选择否,请补充理由
原因:非基本功能问题

Introduction Analysis
引入类型:特性合入引入
引入PR:https://e.gitee.com/mind_spore/repos/mindspore/mindspore/pulls/xxx
PR合入时间:年/月/日
问题是否偶现:是/否

likedislike
fangwenyifangwenyi成员
2025年3月22日 将优先级设置为主要
fangwenyifangwenyi成员
2025年3月22日 将计划截止日期设置为2024-12-31
fangwenyifangwenyi成员
2025年3月22日 将里程碑设置为B-SIG-MindFormers
fangwenyifangwenyi成员
2025年3月22日 将里程碑从 B-SIG-MindFormers 修改为B-SIG-MindFormers-Train
Wwei_zhuoyi成员
2025年3月24日 关联了MindSpore/mindformers Pull Request !5761
wei_zhuoyi成员
2025年3月27日 评论:

Appearance & Root Cause
动态shape微调Qwen2.5失败,报错ValueError: pad_token_id should be list.
根因:
每个数据列均需提供独立的pad_token_id,因此需要为list类型,不支持int类型

Fix Solution
当传入的pad_token_id为int时,视作所有数据列均使用该pad_token_id作为填充

Fix Description & Test Suggestion
https://gitee.com/mindspore/mindformers/pulls/5761
输入图片说明

Self-test Report & DT Review
输入图片说明

Introduction Analysis
引入类型:特性合入引入
引入PR:https://e.gitee.com/mind_spore/repos/mindspore/mindspore/pulls/xxx
PR合入时间:年/月/日
问题是否偶现:是/否

likedislike
Wwei_zhuoyi成员
2025年3月27日 添加协作者魏琢艺
此处折叠了13条事件消息 查看更多
司小南(机器人)司小南(机器人)成员
2025年3月27日 将任务状态从 VALIDATION 修改为TODO
司小南(机器人)
司小南(机器人)成员
2025年3月27日 评论:

【问题单处理不规范】:您问题单根因分析不规范,问题单自动打回:

  1. 里程碑未变更至测试领域
  2. 未包含 引入原因分析 (Introduction Analysis)

具体规则请查看: https://e.gitee.com/mind_spore/docs/2489468/file/5767947?sub_id=11382313&scope=undefined
@ygd0228

likedislike
AAtomGit-Bot
2025年3月27日 将任务状态从 TODO 修改为DONE
Wwei_zhuoyi成员
2025年3月27日 将任务状态从 DONE 修改为VALIDATION
Wwei_zhuoyi成员
2025年3月27日 将负责人从 yang guodong 修改为jackzhang
wei_zhuoyi成员
2025年3月27日 评论:

Appearance & Root Cause
动态shape微调Qwen2.5失败,报错ValueError: pad_token_id should be list.
根因:
每个数据列均需提供独立的pad_token_id,因此需要为list类型,不支持int类型

Fix Solution
当传入的pad_token_id为int时,视作所有数据列均使用该pad_token_id作为填充

Fix Description & Test Suggestion
https://gitee.com/mindspore/mindformers/pulls/5761
输入图片说明

Self-test Report & DT Review
动态batch测试用例
输入图片说明
qwen2.5测试拉起
输入图片说明
输入图片说明
Introduction Analysis
引入类型:特性合入引入
引入PR:https://e.gitee.com/mind_spore/repos/mindspore/mindspore/pulls/xxx
PR合入时间:年/月/日
问题是否偶现:是/否

likedislike
Wwei_zhuoyi成员
2025年3月27日 添加协作者魏琢艺
此处折叠了6条事件消息 查看更多
AAtomGit-Bot
2025年12月14日 关联了看板:MindSpore Bug Tracking System