已关闭
[Bug-Report|缺陷反馈]: deepseek使能enable_kv_nz后出现精度问题 #1
sharonyunyun创建于  2025年10月29日关闭于  2025年11月24日
sharonyunyun
sharonyunyun成员
2025年10月29日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述

1、根据README.md中源码操作流程准备工程
2、当前默认代码中模式enable_kv_nz处于关闭状态
3、执行deepseek长序列真实权重脚本使能enable_kv_nz后出现精度问题,吐字不正常。

Version Info / 触发场景

使用仓库提供的脚本和readme中对应的CANN版本

Checklists / 确认项


[x] 我已经搜索过现有的Issue,确认这是一个新问题

[x] 我已经阅读了相关文档

likedislike
sharonyunyunsharonyunyun成员
2025年10月29日 关联了pull request:fix the problem of abnormal accuracy after KVcache-NZ is enabled
zhanghz1
zhanghz1成员
2025年10月29日 评论:

KV_NZ导致的精度问题已在关联PR中解决~

likedislike
张张德鹏成员
2025年11月14日 将 sharonyunyun 设为负责人
zhangkyzhangky成员
2025年11月24日 issue状态由 进行中 改变为 已完成
zhangkyzhangky成员
2025年11月24日 关闭了 issue
CANN-robotCANN-robot成员
3月20日 添加了label:resolved