已合并
feat(model): 补充 Kimi K3 推理优化与调试 Runbook #189
feat(model): 补充 Kimi K3 推理优化与调试 Runbook #189
已合并
汪超创建于 5 天前
汪超成员
5 天前

Pull Request 说明

变更说明

  • 关联 Issue:#76(https://gitcode.com/cann/cannbot-knowledge/issues/76)
  • 主要改动:在 knowledge/model/inference/runbooks/ 新增 18 张 Kimi K3 优化与调试卡,补充已有 MTP 计时卡,同步 5 个直接目录索引及当天日志。相对目标分支共 25 个文件。
  • 内容完整性:19 张知识文件从 873 行补全到 3,821 行,保留 74 个逐字核对的机制代码块。每张卡说明触发背景、适用条件、类方法调用链、输入与状态契约、根因、判别步骤及每步预期、处理依据、设计取舍、验收方法、坏实践和回退边界。类方法及局部因果单元交代其原上下文依赖,避免将片段误作独立实现。
  • 生产与复核:参考 ops-knowledge-trace-ingest 的完整经验单元、code-first 和独立审查要求,按固定代码证据补充模型诊断知识;三组独立只读审查覆盖全部 19 页。修正了两项 major 和两项 minor,包括有效行的真正消费者、图内设备状态机接线、疑似 NaN 的证据措辞及 quant_format 的前置分派条件,复审全部通过。
  • 生命周期与引用:新增卡保持 8 stable、10 draft,仅更新 updated_at;不新增 verified。新增卡保留 sources: [],不附仓库、提交或内部审计引用;已有 MTP 卡保留原公共引用。

本批知识补充的关键边界:

  • MLA/MegaKDA 权重的具体共享配对和 TP 分片区别、EP 物化前过滤、FlashKDA 双门控及 packed TND 状态交接、ReplaySSM root 与 CP 卷积保留槽。
  • NaN 探针的有效行消费者、可写输入预检查的实际限制、设备四字段状态与 Host reset/汇总协议、E4M3 分块扫描和 raw E8M0 的跳过盲区、FakeTensor 设备边界。
  • 融合投影 ignore 的匹配与版本分支、Latent Linear 的两阶段量化选择、格式门控和实际 scheme、两组 MegaMoE scale 的位重解释、C8 图边界的 mutation 与视图身份。
  • DSpark GQA 图外 metadata 准备、SiTU 联合打包与独立 golden、Prefill 打桩的真实性边界、Proposal/Verify 配对和 actual/fixed 接受长度及统计窗口。

变更类型

验证

验证基线为目标 master 的 5388148e。贡献分支已整合该目标,保留双方当天日志;治理、Skill、测试和工具与目标分支一致,检验的工作树是目标治理叠加候选知识和日志。相对目标分支的完整差异不涉及 .gitcode/。

全库严格 Lint 检查 9,182 项,P0/P1/P2 均为 0;723 个目录索引无陈旧项;8,459 张卡的索引构建与 full 验证通过;72 案例通用检索 quality gate 通过;215 个模型推理场景全部通过(recall@k=1.000)。仓库单元测试共 425 项,2 项失败、1 项跳过:

  1. test_governance_specs_keep_five_focused_entries:断言只允许 5 份治理规范,但当前目标已有 refinery.md。对目标提交快照执行相同断言也失败。
  2. test_markdown_structure:报告 375 份存量文档的结构问题。这些文件均与当前目标相同,与本次 19 张卡没有交集;本次 19 张卡和日志单独执行同一结构检查通过。

可复现这两项失败:

python3 -m unittest \
  evals.test_documentation.DocumentationContractTests.test_governance_specs_keep_five_focused_entries \
  evals.test_documentation.DocumentationContractTests.test_markdown_structure

未扩展修改这些存量问题。完整门禁未通过;其余检查已单独完成:trace producer 的 36 项测试、field notes 正文检查、Ruff、Shell 语法和固定归档差异检查均通过;field notes 有不阻塞的存量提示。git diff --cached --check 和最终日志合同检查通过。

定向检索:13 个场景查询及过滤检查通过,包括 FlashKDA lower_bound、q_b_proj_decode、E4M3 activation、KIMI_NAN_TRACE、group_size=32、aclrtMemcpy 107030、_ACTIVE_ROWS、is_activation_quantization_format、_speculative_round_times、FinitePoint;草稿场景显式指定 draft,另验证默认草稿隔离、错误平台及 Prefill/Decode 冲突过滤。

本轮未运行模型 CPU 测试、NPU 推理、capture/replay 或硬件 benchmark。源码中的测试定义、断言和静态核对与已经执行的运行验收明确区分,不用知识审查或检索通过替代模型精度、性能结论。请重点检视各卡的实施条件、代码依赖、未决项和 draft 边界。

likedislike
Pull Request已成功合入, 合并人@CANN-robot
(感谢 汪超 的贡献)
汪汪超成员
5 天前 创建了 pull request,commit e70dc9b2
汪汪超成员
5 天前 关联了issue:[知识需求] 补充 Kimi K3 推理优化与调试 Runbook
汪汪超成员
5 天前 预合并成功(commit_id: 2bd3d03d1cfad612b1aaaa640d16046b37f519fa)
汪汪超成员
5 天前 推送  6 个提交:5388148e-5 commits from branch master,4a6683c4-docs(model): 补全 Kimi K3 Runbook 细节并同步 master
汪汪超成员
5 天前 预合并成功(commit_id: c3973dddde43f8d16db327a04d19863525712b5f)
此处折叠了41条消息 查看更多
CANN-robotCANN-robot成员
2 天前 删除了label:ci-pipeline-running
CANN-robotCANN-robot成员
2 天前 添加了label:ci-pipeline-passed
wangshaojun
wangshaojun成员
2 天前 评论:

/approve

likedislike
CANN-robotCANN-robot成员
2 天前 添加了label:lgtmapproved
CANN-robotCANN-robot成员
2 天前 合入了pull request