sparse_lightning_indexer_grad_kl_loss
默认非确定性实现,支持通过 aclrtSetSysParamOpt 开启确定性
Actual_backward_kernel_time
X1_330
<EXEC_HOST>
<SOC>
<NPU_COUNT>
<WORKDIR>
TuringBigKernel
<WORKDIR>/TuringBigKernel
FusionOp_Test
<WORKDIR>/TuringBigKernel/FusionOp_Test
CaseFactory
<WORKDIR>/CaseFactory
export PATH=<CONDA_BIN>:$PATH source activate <CONDA_ENV> source <CANN_TOOLKIT>/set_env.sh
<CONDA_ENV>
git clone ssh://git@codehub-dg-y.huawei.com:2222/TuringTBETest/TuringBigKernel.git git clone ssh://git@codehub-dg-y.huawei.com:2222/w00800330/CaseFactory.git
cd <WORKDIR>/TuringBigKernel/FusionOp_Test export PATH=<CONDA_BIN>:$PATH source activate <CONDA_ENV> source <CANN_TOOLKIT>/set_env.sh
约束说明
默认非确定性
<CASE_DIR>
_det
is_deterministic=True
_nondet
False
cases
enable=True
python prepare_cases.py --input <CASE_DIR> --output <CASE_DIR>/<casefile>.xlsx
python3 dailyauto_fusion_david_fast.py \ --timeout=7200 \ --casefile=<CASE_DIR>/<casefile>.xlsx \ --runtype=2 --deviceid=<DEVICE_ID> --need_lock_freq=False --sheetname=cases
劣化% = (确定性 - 非确定性) / |非确定性| * 100
本算子 1 条网络用例,平均劣化 14.61%,最大劣化 14.61%,严重劣化(>10%)1 条;总体判定:开启确定性后性能明显劣化。最严重场景为 X1_330(14.61%)。
reports/fag_compare_sparse_lightning_indexer_grad_kl_loss.xlsx
fag_det_A_sub_sparse_lightning_indexer_grad_kl_loss_Result_20261112114400_Ascend950DT_9582.xlsx
背景
sparse_lightning_indexer_grad_kl_loss默认非确定性实现,支持通过 aclrtSetSysParamOpt 开启确定性,判定 涉及确定性计算。Actual_backward_kernel_time(越小越好)。关键指标
X1_330)环境准备
<EXEC_HOST>(<SOC>,<NPU_COUNT>×NPU)<WORKDIR>):TuringBigKernel:<WORKDIR>/TuringBigKernelFusionOp_Test:<WORKDIR>/TuringBigKernel/FusionOp_TestCaseFactory(可选):<WORKDIR>/CaseFactoryexport PATH=<CONDA_BIN>:$PATH source activate <CONDA_ENV> source <CANN_TOOLKIT>/set_env.sh<CONDA_ENV>)、openpyxl、pandas、torch_npu。操作步骤
<WORKDIR>下):git clone ssh://git@codehub-dg-y.huawei.com:2222/TuringTBETest/TuringBigKernel.git git clone ssh://git@codehub-dg-y.huawei.com:2222/w00800330/CaseFactory.gitcd <WORKDIR>/TuringBigKernel/FusionOp_Test export PATH=<CONDA_BIN>:$PATH source activate <CONDA_ENV> source <CANN_TOOLKIT>/set_env.sh约束说明,确认默认非确定性(涉及确定性)。<CASE_DIR>筛选真实网络用例,排除 泛化/fanhua/DTS/feature/tilingkey/fuzz 等;只保留 5 个目标算子。_det(is_deterministic=True)和_nondet(False)两行,合并到单个casessheet,并置enable=True:python3 dailyauto_fusion_david_fast.py \ --timeout=7200 \ --casefile=<CASE_DIR>/<casefile>.xlsx \ --runtype=2 --deviceid=<DEVICE_ID> --need_lock_freq=False --sheetname=casesActual_backward_kernel_time,按劣化% = (确定性 - 非确定性) / |非确定性| * 100计算。性能对比结果
本算子
总体(本次全部算子)
结论
本算子 1 条网络用例,平均劣化 14.61%,最大劣化 14.61%,严重劣化(>10%)1 条;总体判定:开启确定性后性能明显劣化。最严重场景为
X1_330(14.61%)。附件
reports/fag_compare_sparse_lightning_indexer_grad_kl_loss.xlsx原始结果文件
fag_det_A_sub_sparse_lightning_indexer_grad_kl_loss_Result_20261112114400_Ascend950DT_9582.xlsx:https://raw.gitcode.com/Alice_zhou/issue/blobs/1992b4d63382ec225db39b12dffc8d4b9f8dae74/reports/results/fag_det_A_sub_sparse_lightning_indexer_grad_kl_loss_Result_20261112114400_Ascend950DT_9582.xlsx备注/限制
Actual_backward_kernel_time。