文件最后提交记录最后更新时间
libraries && best_practices sample Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !179 merge master into master libraries && best_practices sample Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增部分 libraries && best_practices 样例 更新样例如下: matmul: 00_math 01_matrix 02_activation 03_normalization 04_quantization 05_reduce 06_sort best_practices: 00_add_doublebuffer 02_aicpu_device_tiling 05_mata_address_conflict 10_compatibility_cases 12_high_performance_vf 14_pure_simt_gather 01_bank_conflict 03_l2_cache_bypass 06_grouped_matmul 11_pattern_transformation 13_optimize_datacopy ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1794 个月前
libraries && best_practices sample Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !179 merge master into master libraries && best_practices sample Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增部分 libraries && best_practices 样例 更新样例如下: matmul: 00_math 01_matrix 02_activation 03_normalization 04_quantization 05_reduce 06_sort best_practices: 00_add_doublebuffer 02_aicpu_device_tiling 05_mata_address_conflict 10_compatibility_cases 12_high_performance_vf 14_pure_simt_gather 01_bank_conflict 03_l2_cache_bypass 06_grouped_matmul 11_pattern_transformation 13_optimize_datacopy ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1794 个月前
libraries && best_practices sample Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !179 merge master into master libraries && best_practices sample Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增部分 libraries && best_practices 样例 更新样例如下: matmul: 00_math 01_matrix 02_activation 03_normalization 04_quantization 05_reduce 06_sort best_practices: 00_add_doublebuffer 02_aicpu_device_tiling 05_mata_address_conflict 10_compatibility_cases 12_high_performance_vf 14_pure_simt_gather 01_bank_conflict 03_l2_cache_bypass 06_grouped_matmul 11_pattern_transformation 13_optimize_datacopy ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1794 个月前
libraries && best_practices sample Co-authored-by: yxf-dev-ops<yexiaofeng4@huawei.com> Co-authored-by: gcw_atM8lhjZ<chenhangxin@huawei.com> # message auto-generated for no-merge-commit merge: !179 merge master into master libraries && best_practices sample Created-by: yxf-dev-ops Commit-by: gcw_atM8lhjZ;yxf-dev-ops Merged-by: cann-robot Description: ## 描述 新增部分 libraries && best_practices 样例 更新样例如下: matmul: 00_math 01_matrix 02_activation 03_normalization 04_quantization 05_reduce 06_sort best_practices: 00_add_doublebuffer 02_aicpu_device_tiling 05_mata_address_conflict 10_compatibility_cases 12_high_performance_vf 14_pure_simt_gather 01_bank_conflict 03_l2_cache_bypass 06_grouped_matmul 11_pattern_transformation 13_optimize_datacopy ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!1794 个月前
Replace blockDim with numBlocks Co-authored-by: 王旭<wangxu243@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge master into master Replace blockDim with numBlocks Created-by: wx369 Commit-by: 王旭 Merged-by: cann-robot Description: ## 描述 修正blockDim命名,改为numBlocks ## 关联的Issue 不涉及 ## 测试 通过了样例的编译运行 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/asc-devkit!2373 个月前
README.md

Erfc样例

概述

本样例演示了基于Erfc高阶API的算子实现。样例返回输入x的互补误差函数结果,积分区间为x到无穷大。

支持的产品

  • Ascend 950PR/Ascend 950DT
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品

目录结构介绍

├── erfc
│   ├── scripts
│   │   ├── gen_data.py         // 输入数据和真值数据生成脚本
│   ├── CMakeLists.txt          // 编译工程文件
│   ├── data_utils.h            // 数据读入写出函数
│   └── erfc.asc      // Ascend C算子实现 & 调用样例

算子描述

  • 算子功能:
    返回输入x的互补误差函数结果,积分区间为x到无穷大。原始的理论计算公式如下:

    dstTensori=Erfc(srcTensori)dstTensor_i = Erfc(srcTensor_i)

    Erfc(x)=1−Erf(x)=1−2π∫x∞e−t2dtErfc(x) = 1 - Erf(x) = 1 - \frac{2}{\sqrt{\pi}} \int_{x}^{\infty} e^{-t^2} dt

    由于Erfc函数没有初等函数表达方式,一般通过函数逼近的方式计算,近似计算公式如下所示:

    Erfc(x)=exp⁡(−xa2)∗R(z)S(z)∗xxa+(1−xxa)Erfc(x) = \exp(-x_a^2) * \frac{R(z)}{S(z)} * \frac{x}{x_a} + (1 - \frac{x}{x_a})

    xa=∣x∣+min⁡fp32x_a = |x| + \min_{fp32}

    z=min⁡(xa,10)z = \min(x_a, 10)

    其中,
    R(z) = (((((((z * R0 + R1) * z + R2) * z + R3) * z + R4) * z + R5) * z + R6) * z + R7) * z + R8是关于z的8次多项式;
    S(z) = ((((z + S1) * z + S2) * z + S3) * z + S4) * z + S5是关于z的4次多项式。

  • 算子规格:

    算子类型(OpType) erfc
    算子输入
    nameshapedata typeformat
    src4096floatND
    算子输出
    dst4096floatND
    核函数名erfc_custom
  • 算子实现:
    本样例中实现的是固定shape为输入src[4096],输出dst[4096]的erfc_custom算子。

    • Kernel实现

      计算逻辑是:Ascend C提供的矢量计算接口的操作元素都为LocalTensor,输入数据需要先搬运进片上存储,然后使用Erfc高阶API接口完成Erfc计算,得到最终结果,再搬出到外部存储上。

      erfc_custom算子的实现流程分为3个基本任务:CopyIn,Compute,CopyOut。CopyIn任务负责将Global Memory上的输入Tensor srcGm存储在srcLocal中,Compute任务负责对srcLocal执行Erfc计算,计算结果存储在dstLocal中,CopyOut任务负责将输出数据从dstLocal搬运至Global Memory上的输出Tensor dstGm。

    • 调用实现
      使用内核调用符<<<>>>调用核函数。

编译运行

在本样例根目录下执行如下步骤,编译并执行算子。

  • 配置环境变量
    请根据当前环境上CANN开发套件包的安装方式,选择对应配置环境变量的命令。

    • 默认路径,root用户安装CANN软件包

      source /usr/local/Ascend/cann/set_env.sh
      
    • 默认路径,非root用户安装CANN软件包

      source $HOME/Ascend/cann/set_env.sh
      
    • 指定路径install_path,安装CANN软件包

      source ${install_path}/cann/set_env.sh
      
  • 样例执行

    mkdir -p build && cd build;   # 创建并进入build目录
    cmake ..;make -j;             # 编译工程
    python3 ../scripts/gen_data.py   # 生成测试输入数据
    ./demo                        # 执行编译生成的可执行程序,执行样例
    

    执行结果如下,说明精度对比成功。

    test pass!