Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
dynamicquant部分场景读取attr错误。在压测批跑场景下,走到了错误的分支。 static thread_local 变量在同一个线程中不会重复初始化,需要在正确的场景重置变量。
Ascend950PR
压测环境下,多线程批跑DynamicQuant算子。覆盖各种场景,发现有部分情况读取了错误attr,走到错误分支。
压测环境下,多线程批跑DynamicQuant算子。全部执行成功。
pretoken场景 报错了 perchannel场景的校验拦截。
/assign
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
dynamicquant部分场景读取attr错误。在压测批跑场景下,走到了错误的分支。
static thread_local 变量在同一个线程中不会重复初始化,需要在正确的场景重置变量。
Environment / 环境信息 (Mandatory / 必填)
Ascend950PR
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
压测环境下,多线程批跑DynamicQuant算子。覆盖各种场景,发现有部分情况读取了错误attr,走到错误分支。
Describe the expected behavior / 预期结果 (Mandatory / 必填)
压测环境下,多线程批跑DynamicQuant算子。全部执行成功。
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
pretoken场景 报错了 perchannel场景的校验拦截。
Special notes for this issue/备注 (Optional / 选填)