已关闭
[Requirement|需求建议]: 建议补充 ops-transformer 算子支持矩阵与快速检索索引 #3586
安琪Angel_创建于 7月4日关闭于 16 天前
weihao18
7月6日 评论:
7月6日 评论:
/assign @wang-minbo


7月6日 将 wang-minbo 设为负责人
wang-minbo
7月6日 评论:
7月6日 评论:
您好,已收到您的诉求,后天我们将在sig上评审该需求


wang-minbo
8月31日 评论:
8月31日 评论:
这个需求将于9月交付


16 天前 关闭了 issue
16 天前 添加了label:resolved
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
当前 ops-transformer 仓库包含多个 transformer 类大模型相关算子,适用于在 NPU 上进行加速计算。对于初次使用该仓库的开发者来说,通常需要根据模型结构或算子名称,在不同目录中逐个查找 README、接口说明、样例和支持范围信息。
在实际学习和使用过程中,我发现如果想快速确认某个算子是否支持特定芯片、数据类型、输入 shape 或接口形式,需要进入多个目录分别查看文档,检索成本较高。尤其是新开发者在选择算子、定位样例、确认使用条件时,容易花费较多时间。
因此建议在仓库文档中补充一个统一的“算子支持矩阵与快速检索索引”,用于汇总常用算子的关键信息。
Benefit / Necessity (价值/作用)
增加统一的算子支持矩阵与快速检索索引后,可以带来以下收益:
Design(设计方案)
建议在仓库 docs 或 README 中新增一个算子索引文档,例如:
建议表格字段如下:
| 算子名称 | 所属目录 | 功能简介 | 支持芯片/架构 | 支持数据类型 | 是否提供样例 | 文档链接 |
| --- | --- | --- | --- | --- | --- | --- |
| FlashAttentionScore | attention/... | 注意力计算相关算子 | 按实际文档填写 | fp16/bf16 等,按实际支持填写 | 是/否 | README 链接 |
| FusedInferAttentionScore | attention/... | 推理场景注意力相关算子 | 按实际文档填写 | 按实际支持填写 | 是/否 | README 链接 |
| GroupedMatMul | ... | 分组矩阵乘相关算子 | 按实际文档填写 | 按实际支持填写 | 是/否 | README 链接 |
实现思路: