---

tags:

• unsloth base_model:
• Qwen/Qwen3-VL-2B-Thinking license: apache-2.0 pipeline_tag: image-text-to-text library_name: transformers

---

Qwen3-VL-2B-Thinking

欢迎了解 Qwen3-VL——迄今为止 Qwen 系列中功能最为强大的视觉语言模型。

此代模型全面升级，包括：更卓越的文本理解与生成能力、更深入的视觉感知与推理能力、更长的上下文长度、更强的空间和视频动态理解能力，以及更出色的智能体交互能力。

提供密集型（Dense）和混合专家（MoE）两种架构，从边缘设备到云端均可灵活部署，同时推出指令微调（Instruct）版和推理增强的思维（Thinking）版，满足按需部署的多样化需求。

核心增强功能：

• 视觉智能体：可操控电脑/手机图形用户界面（GUI）——识别界面元素、理解功能、调用工具、完成任务。

• 视觉编码增强：能从图像/视频生成 Draw.io 图表、HTML/CSS/JS 代码。

• 高级空间感知：判断物体位置、视角和遮挡关系；提供更强的 2D 定位能力，并支持 3D 定位，助力空间推理和具身智能。

• 长上下文与视频理解：原生支持 256K 上下文长度，可扩展至 100 万；能处理整本书籍和长达数小时的视频，实现完整回忆和秒级索引。

• 增强的多模态推理：在 STEM/数学领域表现出色——可进行因果分析，提供基于证据的逻辑答案。

• 升级的视觉识别：更广泛、更高质量的预训练使其能够“识别万物”——包括名人、动漫角色、产品、地标、动植物等。

• 扩展的 OCR 功能：支持 32 种语言（此前为 19 种）；在低光、模糊和倾斜场景下表现稳定；对生僻/古文字和专业术语识别更精准；长文档结构解析能力提升。

• 文本理解能力媲美纯语言模型：实现无缝的文本-视觉融合，达成无损、统一的理解。

模型架构更新：

1. 交错式 MRoPE（Interleaved-MRoPE）：通过稳健的位置嵌入，在时间、宽度和高度维度上实现全频率分配，提升长时视频推理能力。

2. 深度堆叠（DeepStack）：融合多级 ViT 特征，捕捉细粒度细节，增强图文对齐精度。

3. 文本-时间戳对齐（Text–Timestamp Alignment）：超越 T-RoPE，实现精确的基于时间戳的事件定位，强化视频时序建模。

本仓库为 Qwen3-VL-2B-Thinking 的权重仓库。

---

模型性能

多模态性能

纯文本性能

快速开始

以下为您提供简单示例，展示如何结合 🤖 ModelScope 和 🤗 Transformers 使用 Qwen3-VL。

Qwen3-VL 的代码已集成到最新版 Hugging Face Transformers 中，建议您通过以下命令从源码构建：

pip install git+https://github.com/huggingface/transformers
# pip install transformers==4.57.0 # currently, V4.57.0 is not released

使用 🤗 Transformers 进行对话

以下是一个代码片段，展示如何使用 transformers 调用对话模型：

from transformers import Qwen3VLForConditionalGeneration, AutoProcessor

# default: Load the model on the available device(s)
model = Qwen3VLForConditionalGeneration.from_pretrained(
    "Qwen/Qwen3-VL-2B-Thinking", dtype="auto", device_map="auto"
)

# We recommend enabling flash_attention_2 for better acceleration and memory saving, especially in multi-image and video scenarios.
# model = Qwen3VLForConditionalGeneration.from_pretrained(
#     "Qwen/Qwen3-VL-2B-Thinking",
#     dtype=torch.bfloat16,
#     attn_implementation="flash_attention_2",
#     device_map="auto",
# )

processor = AutoProcessor.from_pretrained("Qwen/Qwen3-VL-2B-Thinking")

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg",
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

# Preparation for inference
inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_dict=True,
    return_tensors="pt"
)
inputs = inputs.to(model.device)

# Inference: Generation of the output
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

生成超参数

VL

export greedy='false'
export top_p=0.95
export top_k=20
export repetition_penalty=1.0
export presence_penalty=0.0
export temperature=1.0
export out_seq_length=40960

文本

export greedy='false'
export top_p=0.95
export top_k=20
export repetition_penalty=1.0
export presence_penalty=1.5
export temperature=1.0
export out_seq_length=32768 (for aime, lcb, and gpqa, it is recommended to set to 81920)

引用

如果您觉得我们的工作有帮助，欢迎引用。

@misc{qwen3technicalreport,
      title={Qwen3 Technical Report}, 
      author={Qwen Team},
      year={2025},
      eprint={2505.09388},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2505.09388}, 
}

@article{Qwen2.5-VL,
  title={Qwen2.5-VL Technical Report},
  author={Bai, Shuai and Chen, Keqin and Liu, Xuejing and Wang, Jialin and Ge, Wenbin and Song, Sibo and Dang, Kai and Wang, Peng and Wang, Shijie and Tang, Jun and Zhong, Humen and Zhu, Yuanzhi and Yang, Mingkun and Li, Zhaohai and Wan, Jianqiang and Wang, Pengfei and Ding, Wei and Fu, Zheren and Xu, Yiheng and Ye, Jiabo and Zhang, Xi and Xie, Tianbao and Cheng, Zesen and Zhang, Hang and Yang, Zhibo and Xu, Haiyang and Lin, Junyang},
  journal={arXiv preprint arXiv:2502.13923},
  year={2025}
}

@article{Qwen2VL,
  title={Qwen2-VL: Enhancing Vision-Language Model's Perception of the World at Any Resolution},
  author={Wang, Peng and Bai, Shuai and Tan, Sinan and Wang, Shijie and Fan, Zhihao and Bai, Jinze and Chen, Keqin and Liu, Xuejing and Wang, Jialin and Ge, Wenbin and Fan, Yang and Dang, Kai and Du, Mengfei and Ren, Xuancheng and Men, Rui and Liu, Dayiheng and Zhou, Chang and Zhou, Jingren and Lin, Junyang},
  journal={arXiv preprint arXiv:2409.12191},
  year={2024}
}

@article{Qwen-VL,
  title={Qwen-VL: A Versatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond},
  author={Bai, Jinze and Bai, Shuai and Yang, Shusheng and Wang, Shijie and Tan, Sinan and Wang, Peng and Lin, Junyang and Zhou, Chang and Zhou, Jingren},
  journal={arXiv preprint arXiv:2308.12966},
  year={2023}
}