GEOZ

Entity

TransformerBlock

LLaMA2的基本构建块,包含多头注意力机制和前馈神经网络,每层都有独立的归一化和线性变换。

相关文章