Open
fg #30
Alice_zhouAdd on  2 days ago
Alice_zhouCollaborators
2 days ago Create

写一个FAG测试确定性性能的skill---FA_determin_performance,预准备:本地git clone https://gitcode.com/cann/ops-transformer.git在当前目录。 查找aclnn接口资料,通过读取md资料,判断接口是否涉及确定性(资料--约束说明--如果写明默认非确定性则判断该接口涉及确定性计算,反之不涉及)如果涉及确定性计算则需要进行下面的测试,不涉及不需要。1、在执行机上下载测试框架git clone ssh://git@codehub-dg-y.huawei.com:2222/TuringTBETest/TuringBigKernel.git;git clone ssh://git@codehub-dg-y.huawei.com:2222/w00800330/CaseFactory.git 2、在执行机上进入conda export PATH=/npu/miniconda3/bin/:$PATH;source activate CI_py310_aclnn;source /usr/local/Ascend/ascend-toolkit/latest/set_env.sh 3、在执行机上进入TuringBigKernel/FusionOp_Test 4、筛选用例并生成用例,筛选网络用例,然后将用例里面的is_deterministic全部改成True,再在原表格增加一份原始用例让is_deterministic为Flase(即一条用例覆盖确定性和非确定性两种场景,注意用例名要去分析) 5、执行用例 python3 dailyauto_fusion_david_fast.py --timeout=7200 --casefile=case_xls/David/sfag_bsfix_final_v2.xlsx --runtype=2 --deviceid=1 --need_lock_freq=False 具体执行 可以参考CaseFactory/OP_taskfile/main/1982/bigop/daily/1982_bigop_EVB_daily_vector_1982-bigop.txt 5、根据执行生成的结果表格对比同一条用例开确定性和不开确定性前后的性能结果对比,整理成.xlsx表格输出,根据性能对比结果分析算子在开启确定性是哪些场景性能劣化严重,平均性能劣化多少等数据。注意:1、只需要执行网络用例(用例excel中“network_type”列中标记真实网络名称的,含有“泛化”、“fanhua"、”DTS“等标记的不是目标用例)2、只需要执行sparse_flash_attention_grad、sparse_flash_mla_grad、sparse_lightning_indexer_grad_kl_loss、sparse_lightning_indexer_kl_loss_grad、flash_attention_grad

likedislike