| add qkv_rms_norm_rope_cache
Co-authored-by: Will_09<yizige@huawei.com>
# message auto-generated for no-merge-commit merge:
!1394 merge qkv into master
add qkv_rms_norm_rope_cache
Created-by: Will_09
Commit-by: Will_09
Merged-by: cann-robot
Description: ## 描述
<!--在这里详细描述你的改动,包括改动的原因和所采取的方法。-->
算子输入qkv融合张量,通过SplitVD拆分q、k、v张量,执行RmsNorm、ApplyRotaryPosEmb、Quant、Scatter融合操作,输出qOut、kCache、vCache、qBeforeQuant(可选)、kBeforeQuant(可选)、vBeforeQuant(可选)。
## 关联的Issue
<!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000-->
<!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。-->
https://gitcode.com/cann/ops-transformer/issues/742
## 测试
<!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。-->
pta、ttk、ut、冒烟测试均已通过
## 文档更新
<!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。-->
更新了以下文档:
docs/zh/op_api_list.md
docs/zh/op_list.md
posembedding/qkv_rms_norm_rope_cache/README.md
posembedding/qkv_rms_norm_rope_cache/docs/aclnnQkvRmsNormRopeCache.md
## 类型标签
<!-- [x] 表示选中 -->
- [ ] Bug修复
- [x] 新特性
- [ ] 性能优化
- [ ] 文档更新
- [ ] 其他,请描述:
See merge request: cann/ops-transformer!1394 | 3 个月前 |