Private APIs

Note

未在“限制与说明”中特殊说明的为全PyTorch版本支持,若仅支持部分PyTorch版本会标识在“限制与说明”中。

torch

API名称 是否支持 限制与说明
torch.foreach_maximum 支持bf16,fp16,fp32,fp64,uint8,int8,int16,int32,int64
torch._foreach_pow 支持bf16,fp16,fp32,int32
torch._foreach_pow_
暂不支持Ascend 950DT
支持bf16,fp16,fp32,int32
torch._foreach_tanh 支持bf16,fp16,fp32,uint8,int8,int16,int32,int64,bool
torch._foreach_tanh_
暂不支持Ascend 950DT
支持bf16,fp16,fp32
torch._foreach_copy_
暂不支持Ascend 950DT
支持bf16,fp16,fp32,fp64,uint8,int8,int16,int32,int64,bool,complex64,complex128
torch._foreach_addcdiv 支持bf16,fp16,fp32
torch._foreach_div 支持bf16,fp16,fp32,uint8,int8,int16,int32,int64,bool
torch._foreach_norm 支持bf16,fp16,fp32
torch._chunk_cat 支持bf16,fp16,fp32
torch.split_with_sizes_copy 支持fp16,fp32,uint8,int8,int16,int32,int64,bool
torch._foreach_add 支持bf16,fp16,fp32,int32,bool
torch._foreach_lerp 支持bf16,fp16,fp32
torch.ops.aten._to_copy.default 支持bf16,fp16,fp32,fp64,uint8,int8,int16,int32,int64,bool,complex64,complex128
torch._scaled_mm
暂不支持Ascend 950DT
支持fp8模式下ScalingType为tensorwise,rowwise和BlockWise1x128,mxfp8模式下ScalingType为BlockWise1x32的排布,mxfp8遵循aclnnQuantMatmulV5要求(scale_a和scale_b详见约束说明)
仅支持PyTorch 2.7.1以上版本
torch._scaled_mm_v2
暂不支持Ascend 950DT
支持fp8模式下ScalingType为tensorwise,rowwise和BlockWise1x128,mxfp8模式下ScalingType为BlockWise1x32的排布,mxfp8遵循aclnnQuantMatmulV5要求(swizzle_a和swizzle_b必须为None,scale_a和scale_b详见约束说明)
仅支持PyTorch 2.10.0以上版本
torch._scaled_grouped_mm
暂不支持Ascend 950DT
支持fp8模式下ScalingType为rowwise,mxfp8模式的排布,mxfp8遵循aclnnGroupedMatmulV5要求(scale_a和scale_b详见约束说明)
仅支持PyTorch 2.7.1以上版本
torch._scaled_grouped_mm_v2
暂不支持Ascend 950DT
支持fp8模式下ScalingType为rowwise,mxfp8模式的排布,mxfp8遵循aclnnGroupedMatmulV5要求(swizzle_a和swizzle_b必须为None,scale_a和scale_b详见约束说明)
仅支持PyTorch 2.10.0以上版本

torch.amp

API名称 是否支持 限制与说明
torch.amp_foreach_non_finite_check_and_unscale 支持fp16,fp32
torch._amp_update_scale_
暂不支持Ascend 950DT
支持fp32

torch.cuda

API名称 NPU形式名称 是否支持 限制与说明
torch.cuda.reset_accumulated_host_memory_stats torch_npu.npu.reset_accumulated_host_memory_stats
暂不支持Ascend 950DT
此接口自PyTorch2.9.0版本开始修改为公开接口
torch.cuda.host_memory_stats_as_nested_dict torch_npu.npu.host_memory_stats_as_nested_dict
暂不支持Ascend 950DT
此接口自PyTorch2.9.0版本开始修改为公开接口

torch.distributed

API名称 是否支持 限制与说明
torch.distributed._functional_collectives.reduce_scatter_tensor 支持bf16,fp16,fp32,int8,int32,int64
torch.distributed._reduce_scatter_base 支持fp16,fp32,int8,int32,int64
torch.distributed.all_reduce_coalesced 支持fp16,fp32,uint8,int8,int32,int64,bool,complex64
torch.distributed._functional_collectives.AsyncCollectiveTensor 支持bf16,fp16,fp32,fp64,uint8,int8,int32,int64,bool,complex64,complex128

torch.distributed.nn

API名称 是否支持 限制与说明
torch.distributed.nn.all_reduce 支持fp16,fp32,uint8,int8,int32,int64,bool,complex64

torch.distributed.tensor

API名称 是否支持 限制与说明
torch.distributed.tensor._redistribute.redistribute_local_tensor 支持bf16,fp16,fp32,fp64,uint8,int8,int32,int64,bool
torch.distributed.tensor.DTensor._local_tensor 支持bf16,fp16,fp32,fp64,uint8,int8,int16,int32,int64,bool,complex64,complex128
torch.distributed.tensor.placement_types._StridedShard
暂不支持Ascend 950DT
支持bf16,fp16,fp32,fp64,uint8,int8,int32,int64,bool
此接口自PyTorch2.11.0版本开始修改为公开接口

torch.distributed.fsdp.fully_shard

API名称 是否支持 限制与说明
torch.distributed.fsdp._fully_shard._fsdp_api.ReduceScatter
暂不支持Ascend 950DT
支持bf16,fp16,fp32,int32,int64
仅支持PyTorch 2.9.0以上版本
torch.distributed.fsdp._fully_shard._fsdp_collectives.DefaultReduceScatter
暂不支持Ascend 950DT
支持bf16,fp16,fp32,int32,int64
仅支持PyTorch 2.9.0以上版本
torch.distributed.fsdp._fully_shard._fsdp_collectives.ProcessGroupAllocReduceScatter
暂不支持Ascend 950DT
支持bf16,fp16,fp32,int32,int64
仅支持PyTorch 2.9.0以上版本
torch.distributed.fsdp._fully_shard._fsdp_collectives.foreach_reduce
暂不支持Ascend 950DT
支持bf16,fp16,fp32
仅支持PyTorch 2.8.0以上版本

torch.fx

API名称 是否支持 限制与说明
torch.fx.proxy.ParameterProxy
暂不支持Ascend 950DT
-
torch.fx.passes.split_module.split_module
暂不支持Ascend 950DT
-
torch.fx.passes.regional_inductor.regional_inductor
暂不支持Ascend 950DT
仅支持PyTorch 2.10.0以上版本
此接口自PyTorch2.12.0版本开始修改为公开接口