Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Ascend 950 的 QuantBatchMatmulV3 与 QuantBatchMatmulInplaceAdd 在 Cube、MIX 和 MX 场景中存在分散的有 batch/无 batch Tensor API 内核入口及 tiling 数据路径。
需要统一相关实现,并完善非 MX Cube 单 batch Tensor API 分发及 Adaptive Sliding Window tiling 策略。
代码提交:f9ffee7bd46711d6a9016b5a566f06d1081a5a7e 提交者:smdbha 具体提出部门/团队:待补充。
关联 PR:https://gitcode.com/cann/ops-nn/pull/9970
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
Ascend 950 的 QuantBatchMatmulV3 与 QuantBatchMatmulInplaceAdd 在 Cube、MIX 和 MX 场景中存在分散的有 batch/无 batch Tensor API 内核入口及 tiling 数据路径。
需要统一相关实现,并完善非 MX Cube 单 batch Tensor API 分发及 Adaptive Sliding Window tiling 策略。
Origin(信息来源)
代码提交:f9ffee7bd46711d6a9016b5a566f06d1081a5a7e
提交者:smdbha
具体提出部门/团队:待补充。
Benefit / Necessity (价值/作用)
Design(设计方案)
关联 PR:https://gitcode.com/cann/ops-nn/pull/9970