提交提案之前，请先检索仓库内是否已有相同的提案，如已有请在同一提案中进行讨论。

性能优化具体描述

您好，我们前段时间在分析 HSTU 性能时发现，HSTUJaggedForward在 [2048, 16, 256] 这个 Shape 下，原有的 256×256×256 tiling 方案存在一定的 FIXPIPE Bound。我们尝试将 tiling 调整为 128×512×256，减少了 FIXPIPE 的写数据量，目前实测整体性能收益约为 15.6%。对相近的shape我们也做了一定泛化测试，具体数据见附件

想看看能否为开源仓库做一些贡献，不知道这个优化方向是否合适。您方便的时候，想请您帮忙看一下；如果有进一步整理和提交的价值，我们再按照仓库要求补充相关 Shape、精度、性能和稳定性验证。

性能劣化说明

指标 Excel 公式
case 总数 20
平均总收益 17.24
平均 FIXPIPE 收益 31.634
90bca73269c745e28c8323fc8d87f4d8.xlsx4955b248d3514bbe8ec1bf4b40e9c224.xlsx

其他相关讨论

环境信息

例如：
- 操作系统
- 昇腾硬件信息
- CANN软件版本
- 安装的对应软件版本

Linux
cann 9.0
A5

欢迎加入社区，感谢您对社区的贡献 🎉!