Open
fix(helm): use MC_STORE_LOCAL_HOT_CACHE_SIZE for Mooncake hotspot cache #232
fix(helm): use MC_STORE_LOCAL_HOT_CACHE_SIZE for Mooncake hotspot cache #232
Open
YDMY_KiritoAdd on Sep 1
YDMY_Kirito
Sep 1

Summary

修复 InferNex Helm Chart 中 Mooncake 热点缓存默认环境变量名:LOCAL_HOT_CACHE_SIZE → MC_STORE_LOCAL_HOT_CACHE_SIZE。

上游 Mooncake 仅识别 MC_STORE_LOCAL_HOT_CACHE_SIZE,错误名称会导致热点缓存静默不生效。

Changes

  • charts/infernex/charts/inference-backend/values.yaml

Related to https://gitcode.com/openFuyao/sig-ai-inference/issues/50

likedislike
Merge blocked
YDMY_KiritoYDMY_Kirito
Sep 1 Associated issue: 【缺陷】Mooncake热点缓存误用 LOCAL_HOT_CACHE_SIZE,应为 MC_STORE_LOCAL_HOT_CACHE_SIZE
openFuyao-botopenFuyao-botCollaborators
Sep 1 Added label: sig/sig-ai-inference
openFuyao-bot
openFuyao-botCollaborators
Sep 1 Comments:

欢迎来到 openFuyao 社区

Hey @YDMY_Kirito , 感谢你对社区的贡献.

机器人使用手册

有关指令的使用,可以点击 此处 查看详情。开发人员可以在每个PR或Issue下方评论特定指令来触发机器人任务。您可以自助配置此仓库的 PR 合并规则,更多详情,请参阅此处。

联系指引

有疑问可以联系 SIG: sig-ai-inference ,
维护者是: @foxbit, @regandy ,
审核者是: @ShiroChen, @piamposer-li, @qinwenzh .

likedislike
openFuyao-botopenFuyao-botCollaborators
Sep 1 Added label: openFuyao-cla/yes
openFuyao-bot
openFuyao-botCollaborators
Sep 1 Comments:

CLA 签署成功

YDMY_Kirito, 感谢您的代码贡献。 所有的代码贡献者都已完成了 CLA 签署。 👍

likedislike
openFuyao-botopenFuyao-botCollaborators
Sep 1 Added label: ci-running
openFuyao-bot
openFuyao-botCollaborators
Sep 1 Comments:

PR 合入 Checklist

代码评审报告

摘要

本次变更将 InferNex Helm Chart 中 Mooncake 热点缓存的环境变量名从错误的 LOCAL_HOT_CACHE_SIZE 修正为上游 Mooncake 识别的 MC_STORE_LOCAL_HOT_CACHE_SIZE。变更范围极小(1 文件、1 行 diff),修复目标明确,无发现需要阻塞合入的问题,建议合入。

主要变更

  • charts/infernex/charts/inference-backend/values.yaml:L181:将 prefill 容器 env 中 LOCAL_HOT_CACHE_SIZE 重命名为 MC_STORE_LOCAL_HOT_CACHE_SIZE,值保持 4294967296(4GB)不变。

优点

  • 修复精准,仅改动一个环境变量名,无附带变更。
  • 与 PR 描述完全对齐:上游 Mooncake 仅识别 MC_STORE_LOCAL_HOT_CACHE_SIZE,错误名称会导致热点缓存静默不生效,本次修复消除了该静默故障风险。
  • 关联 Issue #50,变更可追溯。

问题

未发现需要计入评分的问题。

已说明项

(无)

量化评分

项 值
综合得分 100 / 100
未处理问题 严重 0 / 重要 0 / 轻微 0
决策 通过

备注

  • 变更仅涉及 Helm values.yaml 配置,无代码逻辑、无 API 调用、无测试覆盖需求。
  • 热点缓存生效需依赖 Mooncake 运行时对该环境变量的正确解析,建议在部署验证阶段确认缓存命中率指标。

AI 生成信息

项 值
辅助工具 Claude
模型 openPangu 2.0 Flash

使用 gitcode-pr-review skill 生成。

该评审结果仅供参考。

likedislike
openFuyao-botopenFuyao-botCollaborators
Sep 1 Removed label: ci-running
openFuyao-botopenFuyao-botCollaborators
Sep 1 Added label: ci-successful