文件最后提交记录最后更新时间
add introduction example Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !171 merge intro into master add introduction example Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增introduction example 更新以下样例: 00_helloworld 01_add 02_matmul 03_matmulleakyrelu 04_simple_operator ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1714 个月前
add introduction example Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !171 merge intro into master add introduction example Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增introduction example 更新以下样例: 00_helloworld 01_add 02_matmul 03_matmulleakyrelu 04_simple_operator ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1714 个月前
add introduction example Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !171 merge intro into master add introduction example Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增introduction example 更新以下样例: 00_helloworld 01_add 02_matmul 03_matmulleakyrelu 04_simple_operator ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1714 个月前
add introduction example Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !171 merge intro into master add introduction example Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增introduction example 更新以下样例: 00_helloworld 01_add 02_matmul 03_matmulleakyrelu 04_simple_operator ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1714 个月前
Replace blockDim with numBlocks Co-authored-by: 王旭<wangxu243@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge master into master Replace blockDim with numBlocks Created-by: wx369 Commit-by: 王旭 Merged-by: cann-robot Description: ## 描述 修正blockDim命名,改为numBlocks ## 关联的Issue 不涉及 ## 测试 通过了样例的编译运行 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!2373 个月前
README.md

MicroApiAdd样例

概述

本样例基于Ascend C微指令API编程模型,演示Add算子的底层寄存器级实现。通过直接操作Vector计算单元的寄存器,实现对半精度(half)数据的加法运算,支持单核运行模式。该实现突破了基础API对LocalTensor的依赖限制,允许直接操作RegTensor和MaskReg寄存器,适用于需要极致性能优化的场景。

支持的产品

  • Ascend 950PR/Ascend 950DT

目录结构介绍

├── micro_api_add
│   ├── scripts
│   │   ├── gen_data.py             // 输入数据和真值数据生成脚本
│   │   └── verify_result.py        // 验证输出数据和真值数据是否一致的验证脚本
│   ├── CMakeLists.txt              // 编译工程文件
│   ├── data_utils.h                // 数据读入写出函数
│   └── micro_api_add_custom.asc    // Ascend C算子实现 & 调用样例

算子描述

  • 算子功能:
    Add算子实现了两个数据相加,返回相加结果的功能。对应的数学表达式为:

    z = x + y
    
  • 算子规格:

    算子类型(OpType)Add
    算子输入nameshapedata typeformat
    x1 * 512halfND
    y1 * 512halfND
    算子输出z1 * 512halfND
    核函数名add_custom
  • 算子实现:
    计算逻辑是:Ascend C提供的矢量计算接口的操作元素都为LocalTensor,输入数据需要先搬运进片上存储,然后使用计算接口完成两个输入参数相加,得到最终结果,再搬出到外部存储上。

    Add算子的实现流程分为3个基本任务:CopyIn,Compute,CopyOut。CopyIn任务负责将Global Memory上的输入Tensor xGm和yGm搬运到Local Memory,分别存储在xLocal、yLocal,Compute任务负责对xLocal、yLocal执行加法操作,计算结果存储在zLocal中,CopyOut任务负责将输出数据从zLocal搬运至Global Memory上的输出Tensor zGm中。

    微指令API与基础API功能相似,但与基础API输入和输出数据必须为LocalTensor不同,微指令API的输入或输出数据可以是RegTensor或MaskReg。

    • 调用实现
      使用内核调用符<<<>>>调用核函数。

编译运行

在本样例根目录下执行如下步骤,编译并执行算子。

  • 配置环境变量
    请根据当前环境上CANN开发套件包的安装方式,选择对应配置环境变量的命令。

    • 默认路径,root用户安装CANN软件包

      source /usr/local/Ascend/cann/set_env.sh
      
    • 默认路径,非root用户安装CANN软件包

      source $HOME/Ascend/cann/set_env.sh
      
    • 指定路径install_path,安装CANN软件包

      source ${install_path}/cann/set_env.sh
      
  • 样例执行

    mkdir -p build && cd build;      # 创建并进入build目录
    cmake ..;make -j;                # 编译工程
    python3 ../scripts/gen_data.py   # 生成测试输入数据
    ./demo                           # 执行编译生成的可执行程序,执行样例
    python3 ../scripts/verify_result.py output/output.bin output/golden.bin   # 验证输出结果是否正确,确认算法逻辑正确
    

    执行结果如下,说明精度对比成功。

    test pass!