* Copyright (c) 2025 Huawei Technologies Co., Ltd.
* This program is free software, you can redistribute it and/or modify it under the terms and conditions of
* CANN Open Software License Agreement Version 2.0 (the "License").
* Please refer to the License for details. You may not use this file except in compliance with the License.
* THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED,
* INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY, OR FITNESS FOR A PARTICULAR PURPOSE.
* See LICENSE in the root of the software repository for the full text of the License.
*/
#ifndef OP_API_INC_LEVEL2_ACLNN_QUANT_SCATTER_V2_H_
#define OP_API_INC_LEVEL2_ACLNN_QUANT_SCATTER_V2_H_
#include "aclnn/aclnn_base.h"
#include "aclnn_util.h"
#ifdef __cplusplus
extern "C" {
#endif
* @brief aclnnInplaceQuantScatterV2的第一段接口,根据具体的计算流程,计算workspace大小。
* @domain aclnn_ops_infer
* 算子功能:
* 先将updates进行量化,然后将updates中的值按指定的轴axis和索引indices逐个更新selfRef中的值。该算子为自定义算子语义,
* 无对应的tensorflow或pytorch接口。
* @param [in] selfRef: npu device侧的aclTensor,数据类型支持INT8,FLOAT8_E4M3FN,FLOAT8_E5M2,HIFLOAT8。维度数量需要与updates一致。
* 支持非连续的Tensor,数据格式支持ND。
* @param [in] indices: npu device侧的aclTensor,数据类型支持INT32,INT64。支持非连续的Tensor,数据格式支持ND。
* @param [in] updates: npu device侧的aclTensor,数据类型支持FLOAT16,BFLOAT16。
* 维度数量需要与selfRef一致。支持非连续的Tensor,数据格式支持ND。
* @param [in] quantScales: npu device侧的aclTensor,数据类型支持FLOAT32,BFLOAT16。
* 支持非连续的tensor。数据格式支持ND。
* @param [in] quantZeroPoints: npu device侧的aclTensor,数据类型支持INT32,BFLOAT16。
* 支持非连续的tensor。数据格式支持ND。
* @param [in] axis: 用来scatter的维度,数据类型为INT64。
* @param [in] quantAxis: 用来量化的维度,数据类型为INT64。
* @param [in] reduction: 指定要应用到输出的缩减,数据类型为INT64。当前仅支持1('update')。
* @param [in] roundMode: 指定数据转换的模式,支持{"rint", "round", "hybrid"}模式。selfRef的Dtype为2/35/36,对应的数据类型为INT8/FLOAT8_E4M3FN/FLOAT8_E5M2时,仅支持{"rint"}。Dtype为34,对应的数据类型为HIFLOAT8,支持{"round", "hybrid"}。
* @param [out] workspaceSize: 返回用户需要在npu device侧申请的workspace大小。
* @param [out] executor: 返回op执行器,包含算子计算流程。
* @return aclnnStatus: 返回状态码
*/
ACLNN_API aclnnStatus aclnnInplaceQuantScatterV2GetWorkspaceSize(aclTensor* selfRef, const aclTensor* indices,
const aclTensor* updates, const aclTensor* quantScales,
const aclTensor* quantZeroPoints, int64_t axis,
int64_t quantAxis, int64_t reduction, const char* roundMode,
uint64_t* workspaceSize, aclOpExecutor** executor);
* @brief: aclnnInplaceQuantScatterV2的第二段接口,用于执行计算
* @domain aclnn_ops_infer
* 算子功能:
* 先将updates进行量化,然后将updates中的值按指定的轴axis和索引indices逐个更新selfRef中的值。该算子为自定义算子语义,
* 无对应的tensorflow或pytorch接口。
* @param [in] workspace: 在npu device侧申请的workspace内存起址。
* @param [in] workspaceSize: 在npu
* device侧申请的workspace大小,由第一段接口aclnnInplaceQuantScatterV2GetWorkspaceSize获取。
* @param [in] stream: acl stream流。
* @param [in] executor: op执行器,包含了算子计算流程。
* @return aclnnStatus: 返回状态码。
*/
ACLNN_API aclnnStatus aclnnInplaceQuantScatterV2(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor,
aclrtStream stream);
#ifdef __cplusplus
}
#endif
#endif