提交提案之前，请先检索仓库内是否已有相同的提案，如已有请在同一提案中进行讨论。
当前GLM4.1V-9B-Thinking模型 TP2,4并发，1080P图片输入，512输出场景， 【300I DUO】 TTFT=8984.5 ms, TPOT=50.4 ms 【800I A2】 TTFT=1998.8 ms, TPOT=21.2 ms
例如： - 操作系统 - 昇腾硬件信息 - CANN软件版本 - 安装的对应软件版本
操作系统 openEuler 24.03 (LTS) 昇腾硬件信息 300I DUO，800I A2 CANN软件版本 8.3.0.2.220:8.3.RC2 安装的对应软件版本 master分支
欢迎加入社区，感谢您对社区的贡献 🎉!
提交提案之前，请先检索仓库内是否已有相同的提案，如已有请在同一提案中进行讨论。
性能优化具体描述
当前GLM4.1V-9B-Thinking模型
TP2,4并发，1080P图片输入，512输出场景，
【300I DUO】 TTFT=8984.5 ms, TPOT=50.4 ms
【800I A2】 TTFT=1998.8 ms, TPOT=21.2 ms
性能劣化说明
其他相关讨论
环境信息
操作系统 openEuler 24.03 (LTS)
昇腾硬件信息 300I DUO，800I A2
CANN软件版本 8.3.0.2.220:8.3.RC2
安装的对应软件版本 master分支
欢迎加入社区，感谢您对社区的贡献 🎉!