已合并
docs: update Matmul_usage, README and programming_interface_overview #5305
ai_xin创建于 14 天前
docs: update Matmul_usage, README and programming_interface_overview #5305
已合并
ai_xin创建于 14 天前
3 个文件变更+3-3
@@ -2752,7 +2752,7 @@
2752 - [协作组简介](SIMT-API/cooperative_groups/cooperative_groups_intro.md)2752 - [协作组简介](SIMT-API/cooperative_groups/cooperative_groups_intro.md)
2753 - [grid_group](SIMT-API/cooperative_groups/grid_group/grid_group.md)2753 - [grid_group](SIMT-API/cooperative_groups/grid_group/grid_group.md)
2754 - [grid_group简介](SIMT-API/cooperative_groups/grid_group/grid_group_intro.md)2754 - [grid_group简介](SIMT-API/cooperative_groups/grid_group/grid_group_intro.md)
2755- - [grid_group_constructor](SIMT-API/cooperative_groups/grid_group/grid_group_constructor.md)2755+ - [grid_group构造函数](SIMT-API/cooperative_groups/grid_group/grid_group_constructor.md)
2756 - [is_valid](SIMT-API/cooperative_groups/grid_group/is_valid.md)2756 - [is_valid](SIMT-API/cooperative_groups/grid_group/is_valid.md)
2757 - [sync](SIMT-API/cooperative_groups/grid_group/sync.md)2757 - [sync](SIMT-API/cooperative_groups/grid_group/sync.md)
2758 - [thread_rank](SIMT-API/cooperative_groups/grid_group/thread_rank.md)2758 - [thread_rank](SIMT-API/cooperative_groups/grid_group/thread_rank.md)
@@ -90,7 +90,7 @@ Matmul的计算公式为:C = A \* B + Bias,其示意图如下。
90 | bfloat16_t | bfloat16_t | float | int8_t | <!-- npu="950" id63 -->Ascend 950PR/Ascend 950DT<!-- end id63 --><!-- npu="A3" id64 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id64 --><!-- npu="910b" id65 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id65 --> |90 | bfloat16_t | bfloat16_t | float | int8_t | <!-- npu="950" id63 -->Ascend 950PR/Ascend 950DT<!-- end id63 --><!-- npu="A3" id64 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id64 --><!-- npu="910b" id65 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id65 --> |
91 | int8_t | int8_t | int32_t | int8_t | <!-- npu="950" id66 -->Ascend 950PR/Ascend 950DT<!-- end id66 --><!-- npu="A3" id67 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id67 --><!-- npu="910b" id68 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id68 --><!-- npu="310p" id69 --><br> <br>Atlas 推理系列产品AI Core<!-- end id69 --><!-- npu="x90" id12 --><br> <br>Kirin X90<!-- end id12 --> |91 | int8_t | int8_t | int32_t | int8_t | <!-- npu="950" id66 -->Ascend 950PR/Ascend 950DT<!-- end id66 --><!-- npu="A3" id67 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id67 --><!-- npu="910b" id68 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id68 --><!-- npu="310p" id69 --><br> <br>Atlas 推理系列产品AI Core<!-- end id69 --><!-- npu="x90" id12 --><br> <br>Kirin X90<!-- end id12 --> |
92 | half | half | float | half/bfloat16_t | <!-- npu="950" id70 -->Ascend 950PR/Ascend 950DT<!-- end id70 --><!-- npu="A3" id71 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id71 --><!-- npu="910b" id72 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id72 --><!-- npu="310p" id73 --><br> <br>Atlas 推理系列产品AI Core<!-- end id73 --><!-- npu="310b" id74 --><br> <br>Atlas 200I/500 A2 推理产品<!-- end id74 --> |92 | half | half | float | half/bfloat16_t | <!-- npu="950" id70 -->Ascend 950PR/Ascend 950DT<!-- end id70 --><!-- npu="A3" id71 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id71 --><!-- npu="910b" id72 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id72 --><!-- npu="310p" id73 --><br> <br>Atlas 推理系列产品AI Core<!-- end id73 --><!-- npu="310b" id74 --><br> <br>Atlas 200I/500 A2 推理产品<!-- end id74 --> |
93- | half | half | half | half/bfloat16_t | <!-- npu="950" id98 -->Ascend 950PR/Ascend 950DT<!-- end id98 --><!-- npu="A3" id99 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id99 --><!-- npu="910b" id100 --<br> ><br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id100 --><!-- npu="310b" id101 --<br> ><br>Atlas 200I/500 A2 推理产品<!-- end id101 --><!-- npu="x90" id13 --><br> <br>Kirin X90<!-- end id13 --><!-- npu="9030" id14 --><br> <br>Kirin 9030<!-- end id14 --> |93+ | half | half | half | half/bfloat16_t | <!-- npu="950" id98 -->Ascend 950PR/Ascend 950DT<!-- end id98 --><!-- npu="A3" id99 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id99 --><!-- npu="910b" id100 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id100 --><!-- npu="310b" id101 --><br> <br>Atlas 200I/500 A2 推理产品<!-- end id101 --><!-- npu="x90" id13 --><br> <br>Kirin X90<!-- end id13 --><!-- npu="9030" id14 --><br> <br>Kirin 9030<!-- end id14 --> |
94 | bfloat16_t | bfloat16_t | float | bfloat16_t/half | <!-- npu="950" id75 -->Ascend 950PR/Ascend 950DT<!-- end id75 --><!-- npu="A3" id76 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id76 --><!-- npu="910b" id77 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id77 --><!-- npu="310b" id78 --><br> <br>Atlas 200I/500 A2 推理产品<!-- end id78 --> |94 | bfloat16_t | bfloat16_t | float | bfloat16_t/half | <!-- npu="950" id75 -->Ascend 950PR/Ascend 950DT<!-- end id75 --><!-- npu="A3" id76 --><br> <br>Atlas A3 训练系列产品/Atlas A3 推理系列产品<!-- end id76 --><!-- npu="910b" id77 --><br> <br>Atlas A2 训练系列产品/Atlas A2 推理系列产品<!-- end id77 --><!-- npu="310b" id78 --><br> <br>Atlas 200I/500 A2 推理产品<!-- end id78 --> |
95 | half | int8_t | float | float | <!-- npu="310p" id79 -->Atlas 推理系列产品AI Core<!-- end id79 --> |95 | half | int8_t | float | float | <!-- npu="310p" id79 -->Atlas 推理系列产品AI Core<!-- end id79 --> |
96 | fp8_e4m3fn_t/fp8_e5m2_t | fp8_e4m3fn_t/fp8_e5m2_t | float/half/bfloat16_t | fp8_e4m3fn_t/half/bfloat16_t/float | <!-- npu="950" id80 -->Ascend 950PR/Ascend 950DT<!-- end id80 --> |96 | fp8_e4m3fn_t/fp8_e5m2_t | fp8_e4m3fn_t/fp8_e5m2_t | float/half/bfloat16_t | fp8_e4m3fn_t/half/bfloat16_t/float | <!-- npu="950" id80 -->Ascend 950PR/Ascend 950DT<!-- end id80 --> |
@@ -11,7 +11,7 @@ Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行
11- **高阶API**:实现一些常用的计算算法,用于提高编程开发效率,通常会调用多种基础API实现。高阶API包括数学库、Matmul、Softmax等API。高阶API可以保证兼容性。11- **高阶API**:实现一些常用的计算算法,用于提高编程开发效率,通常会调用多种基础API实现。高阶API包括数学库、Matmul、Softmax等API。高阶API可以保证兼容性。
12- **Utils API(公共辅助函数)**:丰富的通用工具类,涵盖标准库、平台信息获取、运行时编译及日志输出等功能,支持开发者高效实现算子开发与性能优化。12- **Utils API(公共辅助函数)**:丰富的通用工具类,涵盖标准库、平台信息获取、运行时编译及日志输出等功能,支持开发者高效实现算子开发与性能优化。
13 13 
14-<img src="../../figures/architecture_ascendc.png" alt="架构图" width="1000px">14+<img src="../../figures/architecture_ascendc.png" alt="架构图" width="1000px">
15 15 
16>[!NOTE]说明 16>[!NOTE]说明
17>Ascend C API所在头文件目录为:17>Ascend C API所在头文件目录为: