| 新增算子cla_gate_quant Co-authored-by: RoyHys<huangyuqian6@huawei.com> # message auto-generated for no-merge-commit merge: !10510 merge claGate into master 新增算子cla_gate_quant Created-by: luckdog111 Commit-by: RoyHys Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增算子。 实现CLA(Cross-Layer Attention)两路head-wise gate加权合并与动态块量化的组合计算。先对Global/CLA分支与Local/SWA分支的Attention输出分别施加Sigmoid门控并加权合并,再将合并结果reshape为[T, K](K = N*D)进行基于块的动态量化,输出低精度的FP8/FP4张量和对应的E8M0缩放因子。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/5970 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地完成ut测试、ttk各种通路的st测试,torchapi接口通路测试和哥、aclgraph通路测试。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增算子接口文档aclnnClaGateQuant.md、torchapi_cla_gate_quant.md、README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!10510 | 2 months ago |