已关闭
AutoModel会重置mode为静态图,前段并行llama结构 #164
hz2901782080创建于 2025年1月2日关闭于 2025年1月15日
2025年1月2日 添加了问题后端类型的 Ascend 选项
2025年1月2日 创建了Bug-Report
2025年1月2日 添加了关联分支的 r2.5.0 选项
2025年1月6日 将负责人设置为renyujin
2025年1月6日 将置顶等级设置为高
2025年1月6日 将优先级设置为主要
2025年1月9日 修改了描述
zhangyihuiben
2025年1月14日 评论:
2025年1月14日 评论:
您好,感谢您的反馈,AutoModel接口本身不会去修改已经初始化过的context,出现以上情况的原因是因为MindSpore的set_context不能初始化MindFormers的context,如果需要切换到动态图,可以用mindformers的build_context的接口或者set_context接口
测试样例如下

测试结果如下


可以看到正确切换到了动态图,且AutoModel类并未修改成静态图
从这个现象看起来,并不是bug,如果您还有疑问,我们会继续为您解答,期待您的反馈!


2025年1月15日 将任务状态从 TODO 修改为VALIDATION
huangzhuo
2025年1月15日 评论:
2025年1月15日 评论:
使用mindformers的set_context验证结果正常。




2025年1月15日 将置顶等级从 高 修改为不置顶
2025年1月15日 将任务状态从 VALIDATION 修改为DONE
1.Describe the current behavior / 问题描述 (Mandatory / 必填)
初始化set_context选择PYNATIVE模式,使用automode构建前段并行llama网络,mode变为GRAPH模式
样例: (根据实际修改和增删)
2.Environment / 环境信息 (Mandatory / 必填)
Hardware (e.g.
Ascend910B1/Mac CPU)Ascend910B4
样例:
迭代版本新增问题样例:(根据实际修改和增删)
bugfix版本问题引入样例:(根据实际修改和增删)
3.Related testcase / 关联用例 (Mandatory / 必填)
4.Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
5.Describe the expected behavior / 预期结果 (Mandatory / 必填)
6.Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
报错关键日志截图:



使用AutoModel会调用到这个地方,然后传进来的config是空的,然后在ms_ctx处,环境的参数被重置掉。
完整日志(通过附件上传):
7.Special notes for this issue/备注 (Optional / 选填)
【定位人】(根据实际修改)