GEOZ

Entity

DSA (DeepSeek Sparse Attention)

DeepSeek稀疏注意力机制,一种新型注意力结构,通过token级压缩和稀疏注意力实现高效长上下文处理,降低计算和内存成本。

相关文章