已开启
[Feature]:多模态理解评测能力 #377
yeqm创建于  5月18日
yeqm成员
5月18日 创建

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的源码或者https://github.com/open-compass/vlmevalkit,完善多模态理解模型评测能力,支持NPU。

本期任务的具体信息如下:
(1)模型名称:支持典型理解模型如qwenvl系列,
(2) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,或者对三方开源仓进行NPU适配支持。

二、验收标准:
1)精度/性能要求
精度:
对比参考实现开源权重评测分数差别<1%
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Yyeqm成员
5月18日 添加了label:feature
yeqm成员
5月18日 评论:

👋 您好,欢迎向 MindSpeed MM 提交 Issue!

我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅 处理时效: 维护团队将在 24 小时内 查看并回复您的问题(工作日)。

🚨 紧急联系: 如果您的问题非常紧急,可通过以下方式联系我们:

💬 微信: WeChat

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Ronald1995
6月11日 评论:

/label add good-first-issue

likedislike
ascend-robotascend-robot成员
6月11日 添加了label:good-first-issue
gcw_C4359EFc
6月25日 评论:

你好,申请认领该任务

likedislike
cartes1us
cartes1us
6月25日 评论:

你好,申请认领该任务

likedislike
Allen0624
6月25日 评论:

认领这个任务

likedislike
Ronald1995
6月26日 评论:

你好,申请认领该任务

@gcw_C4359EFc

欢迎认领任务,请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的:

  • 完成的截止日期
  • 开发进展反馈
  • 微信答疑群
  • 任务交付注意事项

等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

likedislike
Ronald1995
6月26日 评论:

认领这个任务

@Allen0624

@kill2013110

欢迎参加认领社区任务,当前一个任务只分配一个开发,根据评论认领时间确定,您可以后续观察该任务是否被释放退出,或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

likedislike
gcw_MTeIQk9o
6月29日 评论:

认领这个任务

likedislike
gcw_C4359EFc
7月1日 评论:

你好,申请认领该任务

@gcw_C4359EFc

欢迎认领任务,请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的:

  • 完成的截止日期
  • 开发进展反馈
  • 微信答疑群
  • 任务交付注意事项

等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

@Ronald1995

已加群

likedislike
ascend-robotascend-robot成员
7月3日 关联了看板:MindStudio ISSUE管理
Robin
Robin
7月4日 评论:

认领这个任务

likedislike
young256young256成员
7月8日 关联了里程碑:MindSpeed 26.2.0
8月2日 评论:

我要认领这个任务

likedislike
且奏长歌且奏长歌成员
8月7日 修改标题为 “[Feature]: build_iterations”,原标题为“[Feature]: 多模态理解评测能力”
gcw_C4359EFc
8月18日 评论:

评测对齐推进中,当前对qwen3.5系列在RealworldQA与MMStar评测集上进行对齐实验。

likedislike
且奏长歌
且奏长歌成员
8月19日 评论:

@gcw_C4359EFc 您好!

MindSpeed-MM 邀请您参加 2026-08-20 16:00 召开的WeLink会议

会议主题:MindSpeed MM 社区例会

会议内容:
1.社区关键issue解答
2.代码合入评审

会议链接:https://meeting.huaweicloud.com:36443/#/j/980887584

会议纪要&签到链接:https://etherpad.ascend.osinfra.cn/p/sig-MindSpeed-MM

likedislike
gcw_C4359EFc
28 天前 评论:

@ye_qm id gcw_C4359EFc在HiDevLab申请环境权限还没通过,辛苦帮忙推进下哈。

likedislike
Yyeqm成员
26 天前 修改标题为 “[Feature]:多模态理解评测能力”,原标题为“[Feature]: build_iterations”
yeqm成员
26 天前 评论:

@ye_qm id gcw_C4359EFc在HiDevLab申请环境权限还没通过,辛苦帮忙推进下哈。

@gcw_C4359EFc

你好,可以加入微信群,群里有专人负责机器环境等问题

likedislike
且奏长歌且奏长歌成员
9 天前 关联了里程碑:MindSpeed 26.3.0
Ggcw_C4359EFc
1 天前 关联了pull request:feat(evaluation): support Qwen3-VL RealWorldQA evaluation on NPU
gcw_C4359EFc
1 天前 评论:

已提交 RealWorldQA 第一版实现及实践文档,PR 目标分支为 master:

在 Atlas 800T A2 单张 Ascend 910B3 上完成 765 题全量评测。Qwen3-VL-4B-Instruct 的 MindSpeed-MM 为 72.16%(552/765),同 NPU 原生 Transformers 为 71.63%(548/765);Qwen3-VL-8B-Instruct 的 MindSpeed-MM 为 72.42%(554/765)。官方公布值、评测参数、输入与评分核验、性能计时边界及差异说明均见上述文档。

当前状态为 PR 已提交、待社区检视与合入。

likedislike