MaxQ-Multi-Axis-Query-for-NM-Sparsity-Network:基于 Pytorch 的 N:M 稀疏网络实现项目

本文针对N:M稀疏性方法在权重重要性区分不足以及直接应用于整个网络导致信息损失的问题，提出了一种名为MaxQ的多轴查询方法。MaxQ在训练期间采用动态方法生成软N:M掩码，考虑多个轴向的权重重要性，强化了更重要的权重并确保了更有效的更新。同时，该方法应用了一种逐渐增加N:M权重块百分比的稀疏策略，使网络能够逐步从剪枝引起的损伤中恢复。在运行时，N:M软掩码可以作为常数预计算并折叠到权重中，不会引起稀疏模式的失真或增加额外的计算开销。广泛的实验表明，MaxQ在各种CNN架构和计算机视觉任务中，包括图像分类、目标检测和实例分割，都取得了一致的改进。对于1:16稀疏模式的ResNet50，MaxQ在ImageNet上可以达到74.6%的top-1准确率，比现有最先进方法提高了超过2.8%。 arXiv:https://arxiv.org/abs/2312.07061 github:https://github.com/JingyangXiang/MaxQ