已关闭
使用p2p池化模式,p2p访问对端缓存有报错 #7
江叶根创建于  9月10日关闭于  24 天前
江叶根
江叶根成员
9月10日 创建

【缺陷描述】:请补充详细的缺陷问题现象描述

使用p2p池化模式,p2p访问对端缓存有报错

一、缺陷信息

(Worker_TP2 pid=3951699) [2026-09-07 17:33:00,790] LMCache ERROR: Request cmpl-aa3a2ee90bbf1c58-0-97438527The number of retrieved tokens is less than the expected number of tokens! This should not happen! (vllm_v1_adapter.py:854:lmcache.integration.vllm.vllm_v1_adapter)
(Worker_TP2 pid=3951699) [2026-09-07 17:33:00,790] LMCache ERROR: Num retrieved tokens: 0, num expected tokens: 10752

【缺陷所属的os版本】

openEuler 26.09 (DevStation)

【内核版本】

【缺陷所属软件及版本号】

LMCache-Ascend-0.4.4-1.oe2403next.aarch64

【环境信息】

LMCache-Ascend-0.4.4-1.oe2403next.aarch64

【问题复现步骤】

启动带有vllm+lmcache的docker
进入docker环境
启动lmcache_controller
拉起P2P池化的服务
等待大模型启动成功
执行推理
查看是否命中缓存

【实际结果】

首次instance1未命中缓存并保存缓存
首次instance2命中instance1的缓存,但有报错
二次instance1命中本地缓存

【期望结果】

首次instance1未命中缓存并保存缓存,
首次instance2命中instance1的缓存,
二次instance1命中本地缓存

【其他相关附件信息】

【缺陷详情及分析指导参考链接】

二、缺陷分析结构反馈
影响性分析说明:

缺陷严重等级:(Critical/High/Moderate/Low)

缺陷根因说明:

受影响版本排查(受影响/不受影响):
openEuler-20.03-LTS-SP4
openEuler-22.03-LTS-SP4
openEuler-24.03-LTS-SP1
openEuler-24.03-LTS-SP3
openEuler-24.03-LTS-SP4

修复是否涉及abi变化(是/否):
openEuler-20.03-LTS-SP4
openEuler-22.03-LTS-SP4
openEuler-24.03-LTS-SP1
openEuler-24.03-LTS-SP3
openEuler-24.03-LTS-SP4

likedislike
openeuler-ci-botopeneuler-ci-bot成员
9月10日 将 chloroethylene 设为负责人
openeuler-ci-botopeneuler-ci-bot成员
9月10日 修改了issue 的描述
openeuler-ci-bot
openeuler-ci-bot成员
9月10日 评论:

以下的要求不是强制性的, 未按模板评论时对issue无任何影响
issue处理注意事项:
1. 当前issue受影响的分支提交pr时, 须在pr描述中填写当前issue编号进行关联, 否则无法关闭当前issue;
2. 模板内容需要填写完整, 无论是受影响或者不受影响都需要填写完整内容,未引入的分支不需要填写, 否则无法关闭当前issue;
3. 以下为模板中需要填写完整的内容, 请复制到评论区回复, 注: 内容的标题名称(影响性分析说明, 缺陷严重等级, 受影响版本排查(受影响/不受影响), 修复是否涉及abi变化(是/否))不能省略,省略后defect-manager将无法正常解析填写内容.
评论区可能使用到的指令说明:

指令 指令说明 使用权限
/check-issue 触发defect-manager校验 不限
/reason xxx /reason +挂起或取消条件 不限

影响性分析说明:

缺陷严重等级:(Critical/High/Moderate/Low)

缺陷根因说明:

受影响版本排查(受影响/不受影响):

  1. openEuler-20.03-LTS-SP4:
  2. openEuler-22.03-LTS-SP4:
  3. openEuler-24.03-LTS-SP1:
  4. openEuler-24.03-LTS-SP3:
  5. openEuler-24.03-LTS-SP4:

abi变化(是/否):

  1. openEuler-20.03-LTS-SP4:
  2. openEuler-22.03-LTS-SP4:
  3. openEuler-24.03-LTS-SP1:
  4. openEuler-24.03-LTS-SP3:
  5. openEuler-24.03-LTS-SP4:

缺陷issue处理具体操作请参考:
https://atomgit.com/openeuler/cve-manager/blob/master/cve-vulner-manager/doc/md/defect-manager-manual.md
pr关联issue具体操作请参考:
https://docs.atomgit.com/docs/help/home/org_project/pullrequests/pr-related-issue

likedislike
openeuler-ci-botopeneuler-ci-bot成员
9月10日 将 puier、juntianlinux、duyiwei7w、sinever、luanjianhai 设为负责人
openeuler-ci-botopeneuler-ci-bot成员
9月10日 添加了label:DEFECT/UNFIXED
openeuler-ci-botopeneuler-ci-bot成员
9月10日 添加了label:sig/sig-Long
openeuler-ci-bot
openeuler-ci-bot成员
9月10日 评论:

Welcome To openEuler Community

Hey @puier , thanks for your contribution to the community.

Bot Usage Manual

I'm the Bot here serving you. You can find the instructions on how to interact with me at Here . That means you can comment below every pull request or issue to trigger Bot Commands. You can self-configure the PR merge rules for this repository. For more details, please refer to Here.

Contact Guide

If you have any questions, please contact the SIG: sig-Long ,
and any of the maintainers: @duyiwei7w, @juntianlinux, @luanjianhai, @sinever ,
and any of the committers: @chloroethylene, @dragon1147e3, @gfmyeung, @rubickrt .

likedislike
江叶根江叶根成员
9月10日 关联了里程碑:openEuler-26.09-DevStation-round4
江叶根江叶根成员
9月10日 修改了issue 的描述
openeuler-ci-botopeneuler-ci-bot成员
24 天前 关闭了 issue
openeuler-ci-botopeneuler-ci-bot成员
24 天前 issue状态由 待办的 改变为 已完成
openeuler-ci-botopeneuler-ci-bot成员
24 天前 移除了负责人 juntianlinux、duyiwei7w、sinever、luanjianhai、chloroethylene
openeuler-ci-botopeneuler-ci-bot成员
24 天前 删除了label:DEFECT/UNFIXED
openeuler-ci-bot
openeuler-ci-bot成员
24 天前 评论:

@puier 未对受影响版本排查/abi变化进行分析

likedislike
江叶根江叶根成员
4 天前 issue状态由 已完成 改变为 已验收
openeuler-ci-bot
openeuler-ci-bot成员
4 天前 评论:

@puier 未对受影响版本排查/abi变化进行分析

likedislike