文件最后提交记录最后更新时间
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
doc Tools工具扫描问题修改 Co-authored-by: gitee-yanglulu<yanglulul@h-partners.com> # message auto-generated for no-merge-commit merge: !3432 merge master into master doc Tools工具扫描问题修改 Created-by: gitee-yanglulu Commit-by: gitee-yanglulu Merged-by: cann-robot Description: doc Tools工具扫描问题修改 See merge request: cann/ops-transformer!34322 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
新增quant_all_reduce算子<<<>>>直调工程 Co-authored-by: hzp_gitcode<huzhenpeng@huawei.com> # message auto-generated for no-merge-commit merge: !1463 merge master into master 新增quant_all_reduce算子<<<>>>直调工程 Created-by: hzp_gitcode Commit-by: hzp_gitcode Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!14632 个月前
README.md

QuantAllReduce <<<>>>直调示例

文件目录

├── kernel                                  # 算子核函数目录
│    ├── quant_all_reduce_mte_one_shot.h    
│    ├── quant_all_reduce_tiling_data.h     
│    ├── mte_comm.h                         
│    ├── vec_comp.h                         
│    ├── utils.h                         
├── scripts                                 # 运行脚本工具
│   ├── data_gen.py                         # 用例数据生成脚本
│   ├── data_compare.py                     # 精度对比脚本
│   └── QuantAllReduce.csv                  # 算子用例输入相关信息
├── quant_all_reduce.cpp                    # <<<>>>核函数入口
├── quant_all_reduce.h                      # <<<>>>核函数入口声明头文件
├── test_quant_all_reduce.cpp               # <<<>>>直调示例代码
├── start.sh
├── run.sh                                  # 工程运行脚本
├── result.csv                              # 算子运行结果汇总
├── README.md                              
└── CMakeLists.txt                          

文件改动

新增接口: quant_all_reduce_mte_one_shot.h 外部创建mc2Context与tilingData,传入GM地址mc2Context,tilingGM aicore inline void InitWithMc2Context(GM_ADDR x, GM_ADDR scales, GM_ADDR output, GM_ADDR mc2Context, GM_ADDR tilingGM, TPipe *pipe); mte_comm.h aicore inline void InitHcclContextByAddr(GM_ADDR mc2Context);

工程运行

  1. 设置环境变量
source /usr/local/Ascend/cann/set_env.sh
  1. run.sh运行指令
bash run.sh -v ascend950pr_9599 -b Release -c ON -r OFF -n 2
  1. 选项简介 -c cmake-rebuild --- 编译开关 ON-执行编译,OFF-不执行编译。

-v soc-version --- 芯片版本 ascend950pr_9599,芯片版本,根据环境不同芯片型号选择正确版本。

-i install-path --- cann包安装路径(source环境后不用指定) cann包路径,安装cann包后,source /usr/local/Ascend/cann/set_env.sh

-b build-type --- 编译选项 Release or Debug

-p install-prefix --- 编译文件输出目录 编译完成后,编译产物路径,默认路径为运行目录下的out/文件夹中。

-r run-test --- 运行开关 ON-运行用例,OFF-不运行用例 编译后才可执行,可复用编译产物,默认执行第一条用例

-n target_line --- 执行用例行号 指定执行用例的行号,用例csv文件在scripts/QuantAllReduce.csv中。

-f profing-type --- profing开关 ON-采集性能数据,OFF-不采集性能数据

  1. 指令常用组合
bash run.sh -v ascend950pr_9599 -b Release -c ON -r OFF --- 仅编译
bash run.sh -v ascend950pr_9599 -b Release -c ON -r ON -n 2 --- 编译运行并指定行号
bash run.sh -v ascend950pr_9599 -b Release -c OFF -r ON -n 2 --- 不编译直接运行