DeepSeek-V3.2-Exp:基于稀疏注意力机制的长文本处理优化项目

可用于提升长文本场景下的训练与推理效率,项目通过引入DeepSeek Sparse Attention机制,在保持模型输出质量的同时,实现细粒度稀疏注意力,优化长上下文处理性能。【此简介由AI生成】

Branch1Tags0

Introduction

可用于提升长文本场景下的训练与推理效率,项目通过引入DeepSeek Sparse Attention机制,在保持模型输出质量的同时,实现细粒度稀疏注意力,优化长上下文处理性能。【此简介由AI生成】

Customize your domain
101.62 K181Visit GitHub