昇腾 950PR/DT 上的 Kimi K3 推理涉及 MLA、MegaKDA、MoE、MXFP8 和投机解码。现有通用知识不能完整回答以下实现边界:融合后权重是否重复保存、EP 过滤是否发生在物化前、FlashKDA 的 packed TND 启用条件、图捕获中的 Host metadata 构造,以及 NaN 探针的 dtype、有效行和后端限制。
已检索并复用通用 MoE 分块、通信域隔离、多流同步与 MTP 计时知识;本次只补充尚缺的专项诊断步骤和条件,不重复创建通用主题卡。
knowledge/model/inference/runbooks/
mtp_decode_timing_collection_granularity
sources: []
在 model/inference、runbooks、950 条件下,用以下查询应能定位到对应的条件和边界:
FlashKDA lower_bound
q_b_proj_decode
E4M3 activation
KIMI_NAN_TRACE
group_size=32
aclrtMemcpy 107030
实际结果:内容复核发现的 7 项问题已修正;以上 6 项召回检查全部通过,另完成 22 项逐卡召回、草稿隔离及场景/平台过滤检查。全库 Lint 无 P0/P1/P2,索引构建与 full 验证通过(8,458 张卡)。完整提交门禁结果随关联 PR 提供。
本次未运行 NPU 推理、模型 CPU 测试或硬件 benchmark,不将检索通过或代码核对表述为上板精度、性能验证。
知识缺口
昇腾 950PR/DT 上的 Kimi K3 推理涉及 MLA、MegaKDA、MoE、MXFP8 和投机解码。现有通用知识不能完整回答以下实现边界:融合后权重是否重复保存、EP 过滤是否发生在物化前、FlashKDA 的 packed TND 启用条件、图捕获中的 Host metadata 构造,以及 NaN 探针的 dtype、有效行和后端限制。
已检索并复用通用 MoE 分块、通信域隔离、多流同步与 MTP 计时知识;本次只补充尚缺的专项诊断步骤和条件,不重复创建通用主题卡。
知识生产方案
knowledge/model/inference/runbooks/新增 18 张卡,覆盖 compilation、performance、precision、runtime、validations。mtp_decode_timing_collection_granularity中补充实际接受长度、固定分母与 Proposal/Verify 配对的统计边界;同步 5 个直接目录索引和当天日志。sources: [],不附仓库引用或提交标识。预期效果与验收
在 model/inference、runbooks、950 条件下,用以下查询应能定位到对应的条件和边界:
FlashKDA lower_boundq_b_proj_decodeE4M3 activation(显式查询 draft)KIMI_NAN_TRACE(显式查询 draft)group_size=32aclrtMemcpy 107030(显式查询 draft)实际结果:内容复核发现的 7 项问题已修正;以上 6 项召回检查全部通过,另完成 22 项逐卡召回、草稿隔离及场景/平台过滤检查。全库 Lint 无 P0/P1/P2,索引构建与 full 验证通过(8,458 张卡)。完整提交门禁结果随关联 PR 提供。
本次未运行 NPU 推理、模型 CPU 测试或硬件 benchmark,不将检索通过或代码核对表述为上板精度、性能验证。