catlass/docs/zh/2_Design · overfitting_zh/catlass

cann-robotfeat: Add template definitions for JD.com's core retail operations.

文件	最后提交记录	最后更新时间
01_kernel_design	迁移symm/trmm/planarComplex/950gmmGelu至examples目录 Co-authored-by: sunhao_hw<sunhao203@huawei.com> # message auto-generated for no-merge-commit merge: !1109 merge expr into master 迁移symm/trmm/planarComplex/950gmmGelu至examples目录 Created-by: sunhao_hw Commit-by: sunhao_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 涉及样例： - experimental/gmm/grouped_matmul_slice_m_gelu - experimental/matmul/planar_complex_matmul - experimental/matmul/symm - experimental/matmul/trmm optest/atk测试交付件均完备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 基于开源社区精度标准泛化自验，精度通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!1109	1 个月前
02_tla	文档低错整改 Co-authored-by: sunhao_hw<sunhao203@huawei.com> # message auto-generated for no-merge-commit merge: !859 merge debug into master 文档低错整改 Created-by: sunhao_hw Commit-by: sunhao_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 使用doc tools工具排查文档存在 - 代码块未指定语言 - 代码块前后换行 - 本地路径链接无法访问 - 列表前后换行 - 加粗符号空格 - 标签匹配失败 - 有序列表编号错误等问题基于大模型扫描修复文字描述中出现的低级错误 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!859	2 个月前
03_evg	用pre-commit刷新主要文件的格式 Co-authored-by: Yuan Tao<yuantao313@outlook.com> Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !874 merge precommit into master 用pre-commit刷新主要文件的格式 Created-by: yuantao_ Commit-by: yuantao;Yuan Tao Merged-by: cann-robot Description: ## 描述刷新主要文件的格式，并补充关键字检查项，保证pre-commit能够通过 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!874	2 个月前
04_contrib	feat: Add template definitions for JD.com's core retail operations. Co-authored-by: ext.wangguangcai1<ext.wangguangcai1@jd.com> # message auto-generated for no-merge-commit merge: !1161 merge master into master feat: Add template definitions for JD.com's core retail operations. Created-by: ware2009 Commit-by: ext.wangguangcai1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 增加京东使用的一些自定义模板类型 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> 1.主要增加x_flash_attention_infer模板和x_attention模板，支撑推荐推理和传统推荐。 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 使用实例： https://github.com/xLLM-AI/xllm-ops/tree/main/xllm_ops/x_attention https://github.com/xLLM-AI/xllm-ops/tree/main/xllm_ops/x_flash_attention_infer 测试用例运行情况：[root@A03-R40-I191-99-4100006 python_test]# pytest test_x_attention_with_pa.py ============================================================================================================================================================== test session starts ============================================================================================================================================================== platform linux -- Python 3.11.15, pytest-8.3.2, pluggy-1.6.0 rootdir: /export/home/ext.wangguangcai1/code/github/xllm-ops/test/python_test plugins: forked-1.6.0, xdist-3.6.1, anyio-4.14.2 collected 1920 items test_x_attention_with_pa.py ............................................................................................................................................................................................................................................................................................................. [ 15%] ......................................................................................................................................................................................................................................................................................................................................... [ 32%] ......................................................................................................................................................................................................................................................................................................................................... [ 49%] ......................................................................................................................................................................................................................................................................................................................................... [ 67%] ......................................................................................................................................................................................................................................................................................................................................... [ 84%] ............................................................................................................................................................................................................................................................................................................... [100%] ======================================================================================================================================================= 1920 passed in 1516.38s (0:25:16) ======================================================================================================================================================= [root@A03-R40-I191-99-4100006 python_test]# ls RegisterOps.cpp pytorch_npu_helper.hpp test_causal_conv1d_qkv.py test_gamma_add_rms_norm.py test_layer_norm_fwd.py test_moe_gating_top_k_hash.py test_multi_latent_attention.py test_replace_token.py test_x_attention.py pycache setup.py test_causal_conv1d_update.py test_hc_post.py test_lightning_indexer_quant.py test_moe_grouped_matmul.py test_onerec_final_beam_select.py test_reshape_and_cache_a5.py test_x_attention_with_pa.py build test_add_rms_norm_bias.py test_compressor.py test_hc_pre_inv_rms.py test_lightning_indexer_quant_metadata.py test_moe_grouped_matmul_swiglu_quant.py test_pp_matmul_opt.py test_rms_norm_dynamic_quant.py test_x_flash_attention_infer.py build_and_run.sh test_beam_search.py test_convert_kv_cache_format.py test_hc_pre_sinkhorn.py test_mega_chunk_gdn.py test_moe_grouped_matmul_swiglu_quant_v2.py test_quant_lightning_indexer.py test_scatter_nd_update_v2.py custom_ops.egg-info test_beam_search_group.py test_dequant_swiglu_quant.py test_index_group_matmul.py test_moe_fused_add_topk.py test_moe_init_routing_custom.py test_quant_lightning_indexer_metadata.py test_select_unshared_kv.py custom_ops.py test_cache_unshared_kv.py test_dispatch_ffn_combine.py test_inplace_partial_rotary_mul.py test_moe_fused_reducesum_div.py test_moe_init_routing_v3.py test_rec_constrained_topk.py test_sparse_attn_sharedkv.py dist test_causal_conv1d.py test_dispatch_gmm_combine_decode.py test_laser_attention.py test_moe_gating_top_k.py test_mtp_prepare_next_draft.py test_recurrent_gated_delta_rule.py test_sparse_attn_sharedkv_metadata.py [root@A03-R40-I191-99-4100006 python_test]# [root@A03-R40-I191-99-4100006 python_test]# [root@A03-R40-I191-99-4100006 python_test]# ls RegisterOps.cpp pytorch_npu_helper.hpp test_causal_conv1d_qkv.py test_gamma_add_rms_norm.py test_layer_norm_fwd.py test_moe_gating_top_k_hash.py test_multi_latent_attention.py test_replace_token.py test_x_attention.py pycache setup.py test_causal_conv1d_update.py test_hc_post.py test_lightning_indexer_quant.py test_moe_grouped_matmul.py test_onerec_final_beam_select.py test_reshape_and_cache_a5.py test_x_attention_with_pa.py build test_add_rms_norm_bias.py test_compressor.py test_hc_pre_inv_rms.py test_lightning_indexer_quant_metadata.py test_moe_grouped_matmul_swiglu_quant.py test_pp_matmul_opt.py test_rms_norm_dynamic_quant.py test_x_flash_attention_infer.py build_and_run.sh test_beam_search.py test_convert_kv_cache_format.py test_hc_pre_sinkhorn.py test_mega_chunk_gdn.py test_moe_grouped_matmul_swiglu_quant_v2.py test_quant_lightning_indexer.py test_scatter_nd_update_v2.py custom_ops.egg-info test_beam_search_group.py test_dequant_swiglu_quant.py test_index_group_matmul.py test_moe_fused_add_topk.py test_moe_init_routing_custom.py test_quant_lightning_indexer_metadata.py test_select_unshared_kv.py custom_ops.py test_cache_unshared_kv.py test_dispatch_ffn_combine.py test_inplace_partial_rotary_mul.py test_moe_fused_reducesum_div.py test_moe_init_routing_v3.py test_rec_constrained_topk.py test_sparse_attn_sharedkv.py dist test_causal_conv1d.py test_dispatch_gmm_combine_decode.py test_laser_attention.py test_moe_gating_top_k.py test_mtp_prepare_next_draft.py test_recurrent_gated_delta_rule.py test_sparse_attn_sharedkv_metadata.py [root@A03-R40-I191-99-4100006 python_test]# pytest test_x_flash_attention_infer.py ============================================================================================================================================================== test session starts ============================================================================================================================================================== platform linux -- Python 3.11.15, pytest-8.3.2, pluggy-1.6.0 rootdir: /export/home/ext.wangguangcai1/code/github/xllm-ops/test/python_test plugins: forked-1.6.0, xdist-3.6.1, anyio-4.14.2 collected 3 items test_x_flash_attention_infer.py ... [100%] =============================================================================================================================================================== 3 passed in 6.89s =============================================================================================================================================================== [root@A03-R40-I191-99-4100006 python_test]# [root@A03-R40-I191-99-4100006 python_test]# [root@A03-R40-I191-99-4100006 python_test]# pytest test_x_attention.py ============================================================================================================================================================== test session starts ============================================================================================================================================================== platform linux -- Python 3.11.15, pytest-8.3.2, pluggy-1.6.0 rootdir: /export/home/ext.wangguangcai1/code/github/xllm-ops/test/python_test plugins: forked-1.6.0, xdist-3.6.1, anyio-4.14.2 collected 18 items test_x_attention.py .................. [100%] ========================================================================================================================================================= 18 passed in 69.31s (0:01:09) ========================================================================================================================================================= [root@A03-R40-I191-99-4100006 python_test]# ls ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!1161	1 个月前
00_project_overview.md	Add mkdocs configuration and reorganized docs for web page Co-authored-by: yuantao<taoyuan18@huawei.com> Co-authored-by: gitcode-bot<noreply@gitcode.com> # message auto-generated for no-merge-commit merge: !1006 merge mkdocs into master Add mkdocs configuration and reorganized docs for web page Created-by: yuantao_ Commit-by: yuantao;gitcode-bot Merged-by: cann-robot Description: ## 描述增加mkdocs配置文件并进行资源整理，适配文档编译框架同时修正一些错误，补充学习资料#373 #371 #354 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!1006	2 个月前