Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
对value张量与输出张量在head维度上的一致性检查,并扩展了对NTD布局下key张量head维度的支持;修复RoPE(旋转位置编码)拆分模式下仅检查query而忽略key张量维度的问题,确保两者维度一致。
ASCEND950
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
对value张量与输出张量在head维度上的一致性检查,并扩展了对NTD布局下key张量head维度的支持;修复RoPE(旋转位置编码)拆分模式下仅检查query而忽略key张量维度的问题,确保两者维度一致。
Environment / 环境信息 (Mandatory / 必填)
ASCEND950
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
对value张量与输出张量在head维度上的一致性检查,并扩展了对NTD布局下key张量head维度的支持;修复RoPE(旋转位置编码)拆分模式下仅检查query而忽略key张量维度的问题,确保两者维度一致。
Describe the expected behavior / 预期结果 (Mandatory / 必填)
对value张量与输出张量在head维度上的一致性检查,并扩展了对NTD布局下key张量head维度的支持;修复RoPE(旋转位置编码)拆分模式下仅检查query而忽略key张量维度的问题,确保两者维度一致。
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
对value张量与输出张量在head维度上的一致性检查,并扩展了对NTD布局下key张量head维度的支持;修复RoPE(旋转位置编码)拆分模式下仅检查query而忽略key张量维度的问题,确保两者维度一致。
Special notes for this issue/备注 (Optional / 选填)