ops-nn/quant/dequant_bias/op_kernel · hexinhui/ops-nn - AtomGit

文件	最后提交记录	最后更新时间
arch35	dequantbias support 950 Co-authored-by: tianye<tianye82@h-partners.com> Co-authored-by: yang-jiwei<yangjiwei4@huawei.com> # message auto-generated for no-merge-commit merge: !6199 merge dequant_bias_950 into master dequantbias support 950 Created-by: yang-jiwei Commit-by: yang-jiwei;tianye Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> Ascend950 上新增dequant_bias算子. 算子功能：对输入x反量化操作，将输入的int32的数据转化为FLOAT16/BFLOAT16输出。计算公式： $$ y=A×weight\_scale×activate\_scale \\ y=(A+bias)×weight\_scale×activate\_scale \\ y=A×weight\_scale×activate\_scale+bias \\ $$ <table style="undefined;table-layout: fixed; width: 1576px"><colgroup> <col style="width: 170px"> <col style="width: 170px"> <col style="width: 310px"> <col style="width: 212px"> <col style="width: 100px"> </colgroup> <thead> <tr> <th>参数名</th> <th>输入/输出/属性</th> <th>描述</th> <th>数据类型</th> <th>数据格式</th> </tr></thead> <tbody> <tr> <td>x</td> <td>输入</td> <td>公式中的输入A。</td> <td>INT32</td> <td>ND</td> </tr> <tr> <td>weightScale</td> <td>输入</td> <td>公式中的输入weight_scale。</td> <td>BFLOAT16、FLOAT</td> <td>ND</td> </tr> <tr> <td>activateScaleOptional</td> <td>输入</td> <td>公式中的输入activate_scale。</td> <td>FLOAT</td> <td>-</td> </tr> <tr> <td>biasOptional</td> <td>输入</td> <td>公式中的输入bias。</td> <td>BFLOAT16、FLOAT16、FLOAT、INT32</td> <td>-</td> </tr> <tr> <td>outputDtype</td> <td>属性</td> <td><ul><li>输出out的数据类型。</li><li>值为[1,27]。</li></ul></td> <td>INT</td> <td>-</td> </tr> <tr> <td>out</td> <td>输出</td> <td>公式中的输出y。</td> <td>BFLOAT16、FLOAT16</td> <td>ND</td> </tr> </tbody></table> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3398 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!6199	19 天前
dequant_bias.cpp	add kirin9030 ops: quant vfusion scripts tests build.sh CMakeLists.txt Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1414 merge master into master add kirin9030 ops: quant vfusion scripts tests build.sh CMakeLists.txt Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: quant vfusion scripts tests build.sh CMakeLists.txt quant/ascend_quant_v2 quant/dequant_bias quant/dequant_swiglu_quant quant/dynamic_quant quant/dynamic_quant_update_scatter quant/dynamic_quant_update_scatter_v2 quant/dynamic_quant_v2 quant/fake_quant_affine_cachemask quant/group_quant quant/swi_glu_quant quant/trans_quant_param_v2 vfusion/scaled_masked_softmax_v2 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1414	4 个月前
dequant_bias_apt.cpp	dequantbias support 950 Co-authored-by: tianye<tianye82@h-partners.com> Co-authored-by: yang-jiwei<yangjiwei4@huawei.com> # message auto-generated for no-merge-commit merge: !6199 merge dequant_bias_950 into master dequantbias support 950 Created-by: yang-jiwei Commit-by: yang-jiwei;tianye Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> Ascend950 上新增dequant_bias算子. 算子功能：对输入x反量化操作，将输入的int32的数据转化为FLOAT16/BFLOAT16输出。计算公式： $$ y=A×weight\_scale×activate\_scale \\ y=(A+bias)×weight\_scale×activate\_scale \\ y=A×weight\_scale×activate\_scale+bias \\ $$ <table style="undefined;table-layout: fixed; width: 1576px"><colgroup> <col style="width: 170px"> <col style="width: 170px"> <col style="width: 310px"> <col style="width: 212px"> <col style="width: 100px"> </colgroup> <thead> <tr> <th>参数名</th> <th>输入/输出/属性</th> <th>描述</th> <th>数据类型</th> <th>数据格式</th> </tr></thead> <tbody> <tr> <td>x</td> <td>输入</td> <td>公式中的输入A。</td> <td>INT32</td> <td>ND</td> </tr> <tr> <td>weightScale</td> <td>输入</td> <td>公式中的输入weight_scale。</td> <td>BFLOAT16、FLOAT</td> <td>ND</td> </tr> <tr> <td>activateScaleOptional</td> <td>输入</td> <td>公式中的输入activate_scale。</td> <td>FLOAT</td> <td>-</td> </tr> <tr> <td>biasOptional</td> <td>输入</td> <td>公式中的输入bias。</td> <td>BFLOAT16、FLOAT16、FLOAT、INT32</td> <td>-</td> </tr> <tr> <td>outputDtype</td> <td>属性</td> <td><ul><li>输出out的数据类型。</li><li>值为[1,27]。</li></ul></td> <td>INT</td> <td>-</td> </tr> <tr> <td>out</td> <td>输出</td> <td>公式中的输出y。</td> <td>BFLOAT16、FLOAT16</td> <td>ND</td> </tr> </tbody></table> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3398 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!6199	19 天前
dequant_bias_impl.h	代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450	6 个月前
dequant_bias_multi.h	代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450	6 个月前