已关闭
[Bug]: 在a4w4的场景下,pertokenscale为空时误拦截导致功能失败 #143
chen-shuai创建于  6月6日关闭于  6月6日
chen-shuai
6月6日 创建

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

⚠️ 安全信息提醒:请仔细检查提供的文本内容,确保其不包含敏感数据信息,包括但不限于:

  • API 令牌或密钥
  • 密码或身份验证凭证
  • 私有网址或接口地址
  • 个人或机密数据
  • ...

在分享配置信息或代码示例时,请将敏感信息脱敏处理,或使用 <TOKEN> 等占位符替代原有内容。

环境信息

例如:
- 操作系统
- 昇腾硬件信息
- CANN软件版本
- 安装的对应软件版本

A2A3A5

🐛 问题描述

在a4w4的场景下,只有当pertoken为空时才只有float16输出。这个时候才对输出dtype校验
而实际上,只要是a4w4的场景,都会对输出dtype校验。拦截范围变大,致使功能失败

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
ascend-robotascend-robot成员
6月6日 添加了label:bug
chen-shuai
6月6日 评论:

/assign

likedislike
ascend-robotascend-robot成员
6月6日 将 chen-shuai 设为负责人
chen-shuai
6月6日 评论:

/close

likedislike
ascend-robot
ascend-robot成员
6月6日 评论:

Notice

@chen-shuai , this issue is currently under CVE service control and cannot be closed directly. Please comment /check-issue.

likedislike
chen-shuai
6月6日 评论:

/check-issue

likedislike
Cchen-shuai
6月6日 issue状态由 TODO 改变为 DONE
Cchen-shuai
6月6日 关闭了 issue
ascend-robotascend-robot成员
6月6日 添加了label:resolved